按分类找 AI 开源项目

语音音频

浏览当前公开快照中“语音音频”相关的 AI 开源项目，并查看许可证、部署、适用场景、限制和核验来源。

debpalash/VoiceStudio — voicestudio 是一个面向语音克隆、语音设计、视频配音、听写、转录和有声书制作的开源应用，支持在用户硬件上运行本地工作流，并可选择远程服务。其语音工作流覆盖646种语言。
openai/whisper — whisper 是一个基于大规模弱监督训练的通用语音识别模型，可通过单一模型完成多语言语音识别、语音翻译和语言辨识。它以多任务序列到序列方式替代传统语音处理流水线中的多个独立阶段。
RVC-Boss/GPT-SoVITS — gpt-sovits 是一个支持零样本与少样本语音合成及克隆的 WebUI 工具，仅需 1 分钟语音数据即可训练出 TTS 模型，并支持多语言推理。
jamiepine/voicebox — voicebox 是一个本地优先的语音输入输出栈，将语音克隆、多引擎 TTS、全局听写与 MCP Agent 语音输出整合在同一桌面应用中。它面向希望替代云端语音服务、实现数据不出本地机器的开发者和创作者。
OpenBMB/VoxCPM — voxcpm 是一个无 tokenizer 的端到端文本转语音模型，支持 30 种语言并直接输出 48kHz 音频，提供基于自然语言描述的语音设计及声音克隆能力。项目支持本地运行。
Anil-matcha/Open-Generative-AI — open-generative-ai 是一个可自托管的生成式 AI 工作室，支持通过 200 多个模型生成图像、视频和口型同步内容，且不设内容过滤机制。该工具提供云端 API 调用与桌面端本地推理两种运行路径，适用于无需代码基础的媒体生成场景。
2noise/ChatTTS — ChatTTS 是一款专为对话场景优化的文本转语音模型，支持多说话人及对笑声、停顿等细粒度韵律特征的控制。该模型目前仅支持学术研究用途，禁止商用。
multimodal-art-projection/YuE — 将歌词转换为包含人声与伴奏的歌曲的基础模型项目，记录了多语言、曲风建模与 LoRA 微调能力。源代码推理路线需要 GPU、模型权重和环境配置。
ggml-org/whisper.cpp — whisper.cpp 是一个以纯 C/C++ 实现的 OpenAI Whisper 模型推理库，用于在应用程序中集成语音识别功能。该实现无额外依赖，且运行时零内存分配，支持多种操作系统与硬件后端。
k2-fsa/OmniVoice — omnivoice 是一个可本地运行的多语言文本转语音项目，支持超过 600 种语言，并提供零样本声音克隆、属性驱动的声音设计、自动选声及发音控制，可通过网页界面、命令行或 Python 库使用。
CorentinJ/Real-Time-Voice-Cloning — real-time-voice-cloning 是基于 SV2TTS 深度学习框架的语音克隆工具箱，能够从数秒音频中提取声纹并合成任意目标文本的语音。该项目使用较早期的技术，适合用于学习和实验，不适合对音质有高标准的生产环境。
Zackriya-Solutions/meetily — meetily 是一款隐私优先的本地 AI 会议助手，能够完全在设备端捕获音频并完成实时转写与摘要，无需将数据发送至云端。它支持使用 Whisper 或 Parakeet 等模型进行本地推理，适合需要严格数据主权的会议记录场景。
ATH-MaaS/Pixelle-Video — ath-maas/pixelle-video 面向希望从主题或脚本生成短视频、且不需要细粒度手工剪辑的创作者。它覆盖脚本、图像或视频素材、配音、背景音乐与成片合成，并允许通过不同服务或工作流替换部分生成组件。
cactus-compute/needle — needle 是一个可在手机、可穿戴设备、机器人和微控制器等小型设备上本地运行的基础模型，单一二进制文件大小为 8-29 MB，在单一运行时中提供工具调用、结构化抽取、嵌入和语音能力。据项目自述，它在移动端工具调用任务上的表现超过了体积大 10 倍的模型。
OpenWhispr/openwhispr — openwhispr/openwhispr 是一款开源的隐私优先语音听写桌面应用，提供本地离线转写，并可粘贴到任意应用的光标处，同时支持可选的云端处理。
fishaudio/fish-speech — fish-speech 是一个支持 80 多种语言的文本转语音系统，提供短样本语音克隆与细粒度情感标签控制能力。该项目在 Seed-TTS Eval 基准测试中取得了包括闭源系统在内的所有受评模型中的最低词错误率（WER）。
myshell-ai/OpenVoice — openvoice 是一款支持零样本语音克隆与跨语言合成的开源模型，能够准确复制参考音频的音色并对语音风格进行细粒度控制。项目提供 MIT 许可证，允许免费商用与研究使用。
coqui-ai/TTS — coqui-ai/tts 是一个用于文本转语音生成的深度学习工具包，提供覆盖 1100 种以上语言的预训练模型，并具备模型训练与声音克隆能力。用户可通过命令行、Python 库或自带 Web 服务器在本地进行语音合成与开发。
SYSTRAN/faster-whisper — systran/faster-whisper 适合需要在本地或自托管环境中运行 Whisper 转录、并关注推理速度与内存占用的开发者。项目支持 CPU 与 CUDA GPU、多种计算类型、批量转录、语音活动检测、单词级时间戳及模型转换，但采用最新 CTranslate2 时需核对 CUDA 12 与 cuDNN 9 的兼容性。
m-bain/whisperX — whisperx 针对 Whisper 语句级时间戳可能偏差数秒且不支持批处理推理的问题，提供了带词级时间戳和说话人分离的快速语音识别方案。在 large-v2 模型下可达 70 倍实时速度，适合需要词级时间戳和多人会话转录的场景。
index-tts/index-tts — index-tts/index-tts 适合需要本地自托管、零样本声音克隆，并希望将音色与情绪分开控制的开发团队。其优势是控制路径明确，但采用前需确认 NVIDIA GPU、CUDA 12.8 及以上环境和模型下载流程。
mozilla-ai/llamafile — llamafile 将 llama.cpp 与 Cosmopolitan Libc 结合，把大语言模型及其运行环境打包为单一可执行文件，在多数操作系统和 CPU 架构上本地运行且无需安装。它解决了分发和运行大语言模型时面临的安装与跨平台兼容性难题。
babysor/MockingBird — babysor/Mockingbird 是一个语音克隆与语音合成工具包，支持中文和多语言语音克隆，提供预训练模型、训练脚本及多种交互方式。它适用于需要定制中文语音合成的开发者和AI工程师，但部署难度较高。
QwenAudio/CosyVoice — CosyVoice 是一个多语言大型语音生成模型，提供零样本语音克隆和文本到语音合成功能。该模型覆盖 9 种常用语言及 18 种以上的中文方言/口音，并支持延迟低至 150ms 的双向流式推理。
duixcom/Duix-Avatar — duix-avatar 是一款本地离线运行的 AI 数字人克隆与视频合成软件，用户无需联网即可在本地生成数字人视频。
jianchang512/pyvideotrans — pyvideotrans 将语音识别、字幕翻译、多角色配音和音视频合成串联为一条完整流水线，同时支持本地离线部署和多种主流在线 API。Windows 用户可直接使用预打包程序免配置运行。
modelscope/FunASR — FunASR 是一个工业级语音识别工具包，提供离线、流式及边缘部署的语音转写能力，涵盖 ASR、VAD、标点恢复、说话人分离和情绪识别。其提供高速语音识别（实时率因子最高可达 340 倍），旨在作为 Whisper 和云 API 的更快速替代方案。
DrewThomasson/ebook2audiobook — ebook2audiobook 将多种格式的电子书转换为带有章节和元数据的有声书，支持 1158 种语言和多种 TTS 引擎。该工具可选克隆自定义声音，并能以较低硬件门槛在本地或托管环境中运行。

搜索

按分类找 AI 开源项目