语音音频 开源项目

当前展示 31 个可索引项目。

• Zackriya-Solutions/meetily

  meetily 是一款隐私优先的本地 AI 会议助手，能够完全在设备端捕获音频并完成实时转写与摘要，无需将数据发送至云端。它支持使用 Whisper 或 Parakeet 等模型进行本地推理，适合需要严格数据主权的会议记录场景。

• openai/whisper

  whisper 是一个基于大规模弱监督训练的通用语音识别模型，可通过单一模型完成多语言语音识别、语音翻译和语言辨识。它以多任务序列到序列方式替代传统语音处理流水线中的多个独立阶段。

• Comfy-Org/ComfyUI

  结论：comfy-org/comfyui 适合希望通过节点图精细组织生成式工作流、同时保留本地离线与外部服务选择空间的创作者。它覆盖图像、视频、三维模型和音频生成，但采用自定义节点或面向共享生产环境部署前，需要核查版本兼容性与证书配置。

• huggingface/diffusers

  diffusers 是一个面向预训练扩散模型（覆盖图像、音频、视频）的模块化工具箱，提供推理流水线、可互换噪声调度器和可组合的预训练模型组件，基于 PyTorch 构建。它强调可用性优先于性能、可定制优先于抽象封装，适合需要在代码层面灵活控制生成与训练流程的开发者和研究人员。

• RVC-Boss/GPT-SoVITS

  gpt-sovits 是一个支持零样本与少样本语音合成及克隆的 WebUI 工具，仅需 1 分钟语音数据即可训练出 TTS 模型，并支持多语言推理。

• 2noise/ChatTTS

  ChatTTS 是一款专为对话场景优化的文本转语音模型，支持多说话人及对笑声、停顿等细粒度韵律特征的控制。该模型目前仅支持学术研究用途，禁止商用。

• CorentinJ/Real-Time-Voice-Cloning

  real-time-voice-cloning 是基于 SV2TTS 深度学习框架的语音克隆工具箱，能够从数秒音频中提取声纹并合成任意目标文本的语音。该项目使用较早期的技术，适合用于学习和实验，不适合对音质有高标准的生产环境。

• ggml-org/whisper.cpp

  whisper.cpp 是一个以纯 C/C++ 实现的 OpenAI Whisper 模型推理库，用于在应用程序中集成语音识别功能。该实现无额外依赖，且运行时零内存分配，支持多种操作系统与硬件后端。

• jamiepine/voicebox

  voicebox 是一个本地优先的语音输入输出栈，将语音克隆、多引擎 TTS、全局听写与 MCP Agent 语音输出整合在同一桌面应用中。它面向希望替代云端语音服务、实现数据不出本地机器的开发者和创作者。

• coqui-ai/TTS

  coqui-ai/tts 是一个用于文本转语音生成的深度学习工具包，提供覆盖 1100 种以上语言的预训练模型，并具备模型训练与声音克隆能力。用户可通过命令行、Python 库或自带 Web 服务器在本地进行语音合成与开发。

• myshell-ai/OpenVoice

  openvoice 是一款支持零样本语音克隆与跨语言合成的开源模型，能够准确复制参考音频的音色并对语音风格进行细粒度控制。项目提供 MIT 许可证，允许免费商用与研究使用。

• babysor/MockingBird

  babysor/Mockingbird 是一个语音克隆与语音合成工具包，支持中文和多语言语音克隆，提供预训练模型、训练脚本及多种交互方式。它适用于需要定制中文语音合成的开发者和AI工程师，但部署难度较高。

• OpenBMB/VoxCPM

  voxcpm 是一个无 tokenizer 的端到端文本转语音模型，支持 30 种语言并直接输出 48kHz 音频，提供基于自然语言描述的语音设计及声音克隆能力。项目支持本地运行。

• fishaudio/fish-speech

  fish-speech 是一个支持 80 多种语言的文本转语音系统，提供短样本语音克隆与细粒度情感标签控制能力。该项目在 Seed-TTS Eval 基准测试中取得了包括闭源系统在内的所有受评模型中的最低词错误率（WER）。

• SYSTRAN/faster-whisper

  systran/faster-whisper 适合需要在本地或自托管环境中运行 Whisper 转录、并关注推理速度与内存占用的开发者。项目支持 CPU 与 CUDA GPU、多种计算类型、批量转录、语音活动检测、单词级时间戳及模型转换，但采用最新 CTranslate2 时需核对 CUDA 12 与 cuDNN 9 的兼容性。

• m-bain/whisperX

  whisperx 针对 Whisper 语句级时间戳可能偏差数秒且不支持批处理推理的问题，提供了带词级时间戳和说话人分离的快速语音识别方案。在 large-v2 模型下可达 70 倍实时速度，适合需要词级时间戳和多人会话转录的场景。

• QwenAudio/CosyVoice

  CosyVoice 是一个多语言大型语音生成模型，提供零样本语音克隆和文本到语音合成功能。该模型覆盖 9 种常用语言及 18 种以上的中文方言/口音，并支持延迟低至 150ms 的双向流式推理。

• index-tts/index-tts

  index-tts/index-tts 适合需要本地自托管、零样本声音克隆，并希望将音色与情绪分开控制的开发团队。其优势是控制路径明确，但采用前需确认 NVIDIA GPU、CUDA 12.8 及以上环境和模型下载流程。

• DrewThomasson/ebook2audiobook

  ebook2audiobook 将多种格式的电子书转换为带有章节和元数据的有声书，支持 1158 种语言和多种 TTS 引擎。该工具可选克隆自定义声音，并能以较低硬件门槛在本地或托管环境中运行。

• modelscope/FunASR

  FunASR 是一个工业级语音识别工具包，提供离线、流式及边缘部署的语音转写能力，涵盖 ASR、VAD、标点恢复、说话人分离和情绪识别。其提供高速语音识别（实时率因子最高可达 340 倍），旨在作为 Whisper 和云 API 的更快速替代方案。

• nari-labs/dia

  nari-labs/dia 是一个支持通过文本转录本生成对话语音的模型，能够为语音添加情感、语调控制以及非语言声音。当前版本仅支持英文生成且需要 GPU 运行，项目明确声明仅供研究与教育用途，不适用于生产环境。

• jianchang512/pyvideotrans

  pyvideotrans 将语音识别、字幕翻译、多角色配音和音视频合成串联为一条完整流水线，同时支持本地离线部署和多种主流在线 API。Windows 用户可直接使用预打包程序免配置运行。

• Huanshere/VideoLingo

  videolingo 是一条自动化视频翻译与配音流水线，能够生成单行字幕并合成配音视频。它通过 NLP 和 AI 技术处理视频的转录、翻译、对齐和配音环节。

• NVIDIA-NeMo/Speech

  nvidia-nemo/speech 是面向研究人员和 PyTorch 开发者的语音 AI 框架，用于构建、定制和部署语音识别（ASR）、语音合成（TTS）及语音大模型。目前项目正处于转型期，重心转向音频、语音和多模态大模型。

• WEIFENG2333/VideoCaptioner

  videocaptioner 是一款桌面端视频字幕处理工具，将语音转写、字幕优化、翻译和视频合成整合在一套流水线中。它提供免费的 ASR 与翻译选项（无需配置即可使用），同时也支持接入大语言模型（LLM）提升处理效果。

• kaldi-asr/kaldi

  kaldi 是一个用 C++ 编写的语音识别工具包，提供构建语音识别系统所需的基础代码和示例脚本。使用者需要从源码编译项目，适合有 C++ 和命令行经验的开发人员。

• alphacep/vosk-api

  vosk-api 是一个离线语音识别库，提供涵盖 20+ 语言的连续大词表转录、流式 API、说话人识别和可重配词表功能。借助 50MB 级别的紧凑模型，它能够在从 Raspberry Pi 到大型服务器的多种设备上本地运行，适用于对隐私要求高且不依赖云服务的场景。

• duixcom/Duix-Avatar

  duix-avatar 是一款本地离线运行的 AI 数字人克隆与视频合成软件，用户无需联网即可在本地生成数字人视频。

• waooAI/waoowaoo

  waoowaoo 是一款 AI 视频制作工具，能够将小说文本转化为分镜、角色、场景和完整的视频。该项目支持通过 Docker Compose 进行本地部署，并提供中文与英文界面。

• Open-LLM-VTuber/Open-LLM-VTuber

  open-llm-vtuber 是面向语音交互式 AI 伙伴场景的跨平台应用，组合了实时语音对话、Live2D 形象、桌面宠物形态与多种模型后端。若希望使用本地模型实现可完全离线的角色化交互，它值得优先评估；但远程麦克风访问、Live2D 样例模型许可范围和版本迁移需要提前核查。

• PaddlePaddle/PaddleSpeech

  paddlespeech 是一个覆盖语音识别、语音合成、声音克隆、语音翻译和音频分类等任务的开源语音与音频处理工具包。它提供可通过命令行和服务端组件使用的训练、推理、测试与部署能力。