按分类找 AI 开源项目

语音音频

浏览当前公开快照中“语音音频”相关的 AI 开源项目，并查看许可证、部署、适用场景、限制和核验来源。

Zackriya-Solutions/meetily — meetily 是一款隐私优先的本地 AI 会议助手，能够完全在设备端捕获音频并完成实时转写与摘要，无需将数据发送至云端。它支持使用 Whisper 或 Parakeet 等模型进行本地推理，适合需要严格数据主权的会议记录场景。
openai/whisper — whisper 是一个基于大规模弱监督训练的通用语音识别模型，可通过单一模型完成多语言语音识别、语音翻译和语言辨识。它以多任务序列到序列方式替代传统语音处理流水线中的多个独立阶段。
RVC-Boss/GPT-SoVITS — gpt-sovits 是一个支持零样本与少样本语音合成及克隆的 WebUI 工具，仅需 1 分钟语音数据即可训练出 TTS 模型，并支持多语言推理。
2noise/ChatTTS — ChatTTS 是一款专为对话场景优化的文本转语音模型，支持多说话人及对笑声、停顿等细粒度韵律特征的控制。该模型目前仅支持学术研究用途，禁止商用。
CorentinJ/Real-Time-Voice-Cloning — real-time-voice-cloning 是基于 SV2TTS 深度学习框架的语音克隆工具箱，能够从数秒音频中提取声纹并合成任意目标文本的语音。该项目使用较早期的技术，适合用于学习和实验，不适合对音质有高标准的生产环境。
ggml-org/whisper.cpp — whisper.cpp 是一个以纯 C/C++ 实现的 OpenAI Whisper 模型推理库，用于在应用程序中集成语音识别功能。该实现无额外依赖，且运行时零内存分配，支持多种操作系统与硬件后端。
coqui-ai/TTS — coqui-ai/tts 是一个用于文本转语音生成的深度学习工具包，提供覆盖 1100 种以上语言的预训练模型，并具备模型训练与声音克隆能力。用户可通过命令行、Python 库或自带 Web 服务器在本地进行语音合成与开发。
myshell-ai/OpenVoice — openvoice 是一款支持零样本语音克隆与跨语言合成的开源模型，能够准确复制参考音频的音色并对语音风格进行细粒度控制。项目提供 MIT 许可证，允许免费商用与研究使用。
babysor/MockingBird — babysor/Mockingbird 是一个语音克隆与语音合成工具包，支持中文和多语言语音克隆，提供预训练模型、训练脚本及多种交互方式。它适用于需要定制中文语音合成的开发者和AI工程师，但部署难度较高。
OpenBMB/VoxCPM — voxcpm 是一个无 tokenizer 的端到端文本转语音模型，支持 30 种语言并直接输出 48kHz 音频，提供基于自然语言描述的语音设计及声音克隆能力。项目支持本地运行。
fishaudio/fish-speech — fish-speech 是一个支持 80 多种语言的文本转语音系统，提供短样本语音克隆与细粒度情感标签控制能力。该项目在 Seed-TTS Eval 基准测试中取得了包括闭源系统在内的所有受评模型中的最低词错误率（WER）。
ATH-MaaS/Pixelle-Video — ath-maas/pixelle-video 面向希望从主题或脚本生成短视频、且不需要细粒度手工剪辑的创作者。它覆盖脚本、图像或视频素材、配音、背景音乐与成片合成，并允许通过不同服务或工作流替换部分生成组件。
mozilla-ai/llamafile — llamafile 将 llama.cpp 与 Cosmopolitan Libc 结合，把大语言模型及其运行环境打包为单一可执行文件，在多数操作系统和 CPU 架构上本地运行且无需安装。它解决了分发和运行大语言模型时面临的安装与跨平台兼容性难题。
Anil-matcha/Open-Generative-AI — open-generative-ai 是一个可自托管的生成式 AI 工作室，支持通过 200 多个模型生成图像、视频和口型同步内容，且不设内容过滤机制。该工具提供云端 API 调用与桌面端本地推理两种运行路径，适用于无需代码基础的媒体生成场景。
SYSTRAN/faster-whisper — systran/faster-whisper 适合需要在本地或自托管环境中运行 Whisper 转录、并关注推理速度与内存占用的开发者。项目支持 CPU 与 CUDA GPU、多种计算类型、批量转录、语音活动检测、单词级时间戳及模型转换，但采用最新 CTranslate2 时需核对 CUDA 12 与 cuDNN 9 的兼容性。
m-bain/whisperX — whisperx 针对 Whisper 语句级时间戳可能偏差数秒且不支持批处理推理的问题，提供了带词级时间戳和说话人分离的快速语音识别方案。在 large-v2 模型下可达 70 倍实时速度，适合需要词级时间戳和多人会话转录的场景。
QwenAudio/CosyVoice — CosyVoice 是一个多语言大型语音生成模型，提供零样本语音克隆和文本到语音合成功能。该模型覆盖 9 种常用语言及 18 种以上的中文方言/口音，并支持延迟低至 150ms 的双向流式推理。
index-tts/index-tts — index-tts/index-tts 适合需要本地自托管、零样本声音克隆，并希望将音色与情绪分开控制的开发团队。其优势是控制路径明确，但采用前需确认 NVIDIA GPU、CUDA 12.8 及以上环境和模型下载流程。
microsoft/unilm — microsoft/unilm 提供一组预训练基础模型、架构与工具，覆盖 NLP、视觉、语音及文档 AI 等多种任务。其中 LayoutLM 是面向文档 AI 的多模态（文本 + 版面/格式 + 图像）基础模型，可用于扫描文档、PDF 等场景。
DrewThomasson/ebook2audiobook — ebook2audiobook 将多种格式的电子书转换为带有章节和元数据的有声书，支持 1158 种语言和多种 TTS 引擎。该工具可选克隆自定义声音，并能以较低硬件门槛在本地或托管环境中运行。
modelscope/FunASR — FunASR 是一个工业级语音识别工具包，提供离线、流式及边缘部署的语音转写能力，涵盖 ASR、VAD、标点恢复、说话人分离和情绪识别。其提供高速语音识别（实时率因子最高可达 340 倍），旨在作为 Whisper 和云 API 的更快速替代方案。
nari-labs/dia — nari-labs/dia 是一个支持通过文本转录本生成对话语音的模型，能够为语音添加情感、语调控制以及非语言声音。当前版本仅支持英文生成且需要 GPU 运行，项目明确声明仅供研究与教育用途，不适用于生产环境。
jianchang512/pyvideotrans — pyvideotrans 将语音识别、字幕翻译、多角色配音和音视频合成串联为一条完整流水线，同时支持本地离线部署和多种主流在线 API。Windows 用户可直接使用预打包程序免配置运行。
NVIDIA-NeMo/Speech — nvidia-nemo/speech 是面向研究人员和 PyTorch 开发者的语音 AI 框架，用于构建、定制和部署语音识别（ASR）、语音合成（TTS）及语音大模型。目前项目正处于转型期，重心转向音频、语音和多模态大模型。
kaldi-asr/kaldi — kaldi 是一个用 C++ 编写的语音识别工具包，提供构建语音识别系统所需的基础代码和示例脚本。使用者需要从源码编译项目，适合有 C++ 和命令行经验的开发人员。
alphacep/vosk-api — vosk-api 是一个离线语音识别库，提供涵盖 20+ 语言的连续大词表转录、流式 API、说话人识别和可重配词表功能。借助 50MB 级别的紧凑模型，它能够在从 Raspberry Pi 到大型服务器的多种设备上本地运行，适用于对隐私要求高且不依赖云服务的场景。
duixcom/Duix-Avatar — duix-avatar 是一款本地离线运行的 AI 数字人克隆与视频合成软件，用户无需联网即可在本地生成数字人视频。
PaddlePaddle/PaddleSpeech — paddlespeech 是一个覆盖语音识别、语音合成、声音克隆、语音翻译和音频分类等任务的开源语音与音频处理工具包。它提供可通过命令行和服务端组件使用的训练、推理、测试与部署能力。

AI 搜索

按分类找 AI 开源项目