按分类找 AI 开源项目

模型运行

浏览当前公开快照中“模型运行”相关的 AI 开源项目，并查看许可证、部署、适用场景、限制和核验来源。

open-webui/open-webui — open-webui 是一个可自托管、设计为支持离线运行的可扩展 AI 平台，提供 Web 界面管理 Ollama 本地模型与 OpenAI 兼容 API，并集成了检索增强生成（RAG）等丰富功能。
ollama/ollama — ollama/ollama 提供了一种在本地运行开源大语言模型的简便方式，支持通过 CLI、REST API 和编程语言库进行交互。
huggingface/transformers — transformers 是覆盖文本、视觉、音频、视频和多模态的统一模型定义库。它通过提供低门槛的统一 API、支持共享已训练权重以减少算力消耗，并允许在 PyTorch/JAX/TF2.0 框架间迁移模型来提供服务。
Alishahryar1/free-claude-code — free-claude-code 是一个本地代理工具，允许 Claude Code、Codex、Pi 及其 IDE 扩展通过自有的提供商代理运行。它支持在本地管理界面中配置和验证多达 25 个云端或本地模型提供商。
vllm-project/vllm — vllm 是一个面向大语言模型的高吞吐量且具有内存效率的推理与服务引擎，适合需要高效部署 LLM 的开发者和运维团队。
ggml-org/llama.cpp — llama.cpp 是一个纯 C/C++ 实现的 LLM 推理引擎，无任何外部依赖，支持通过整数（1.5-8-bit）量化在本地或云端硬件上运行模型推理。它提供了覆盖 CLI 交互、文本生成、模型量化与多模态处理的核心工具链。
yetone/magpie — magpie 是一个本地网关应用，让不同 AI 编程代理共用任一模型或提供商，并在配额用尽时自动切换到下一个账户。它通过重写代理自身配置实现按代理选模型，同时保留配置文件的注释、顺序和格式。
lyogavin/airllm — airllm 是一个通过逐层加载策略降低大语言模型推理显存占用的 Python 库，使 70B 级别模型在单张约 4GB 显存的 GPU 上无需量化即可运行。其核心机制是以磁盘加载换取显存节省，因此主要适用于对吞吐量要求不高的本地环境。
BerriAI/litellm — litellm 是一个开源 AI 网关与 Python SDK，以统一的 OpenAI 格式代理对 100 多种大语言模型的调用，并提供成本追踪、负载均衡、缓存和管理面板。
AUTOMATIC1111/stable-diffusion-webui — stable-diffusion-webui 是一个基于 Gradio 的 Stable Diffusion Web 界面，提供文生图、图生图、模型训练等功能。该项目提供安装脚本并支持在 4GB 显存的显卡上运行，适合需要在本地运行和管理图像生成的用户。
shiyu-coder/Kronos — Kronos 是一个面向金融 K 线（蜡烛图）序列的预训练基础模型，采用分层分词器和自回归 Transformer 架构，旨在支持多种量化任务。该项目自述在超过 45 个全球交易所的数据上进行了预训练，并称自身为首个针对金融 K 线的开源基础模型。
rasbt/LLMs-from-scratch — llms-from-scratch 是一份基于 PyTorch 从零开始构建小型可用大语言模型的分步教程资源，涵盖数据准备、注意力机制、预训练和微调。该项目通过逐行编写代码的教学方式，帮助开发者深入理解 LLM 的内部工作原理。
jamiepine/voicebox — voicebox 是一个本地优先的语音输入输出栈，将语音克隆、多引擎 TTS、全局听写与 MCP Agent 语音输出整合在同一桌面应用中。它面向希望替代云端语音服务、实现数据不出本地机器的开发者和创作者。
ChatGPTNextWeb/NextChat — nextchat 是一款轻量、跨平台的多模型聊天客户端，适合希望快速搭建个人 AI 助手并将会话数据保存在浏览器本地的用户。它的优势是部署和切换模型提供方较方便，但使用前仍需确认外部 API 成本，且本地知识库尚未正式可用。
unslothai/unsloth — unsloth 是一个支持通过 Web UI 和代码库在本地运行与训练文本、音频、嵌入及视觉模型的应用，旨在以更快的速度和更低的显存占用完成大模型任务。它同时提供数据集自动构建、模型导出和训练过程监控等支持性能力。
OpenBMB/VoxCPM — voxcpm 是一个无 tokenizer 的端到端文本转语音模型，支持 30 种语言并直接输出 48kHz 音频，提供基于自然语言描述的语音设计及声音克隆能力。项目支持本地运行。
jingyaogong/minimind — minimind 是一个面向个人学习者的开源教育项目，提供从零开始用 PyTorch 训练 64M 参数大型语言模型的全流程代码与配套数据集。项目覆盖预训练到强化学习对齐的完整环节，旨在降低理解 LLM 的门槛。
tinyhumansai/openhuman — tinyhumansai/openhuman 是一款本地优先的个人 AI 应用，将个人数据整理为持久记忆，并支持可恢复的多智能体工作流与个人数据和网络研究。它以桌面应用和二进制安装包提供，支持本地运行。
mnfst/awesome-free-llm-apis — awesome-free-llm-apis 是一份精选的 LLM API 清单，专门收录提供永久免费额度的文本推理服务。它将各提供商的速率限制、上下文窗口、模型清单及密钥申请链接整理为结构化信息，帮助开发者快速选型。
hiyouga/LlamaFactory — llamafactory 为 100 多种大语言模型和视觉语言模型提供统一微调框架，支持通过零代码 CLI 和 Web UI 完成训练，涵盖从持续预训练到 DPO/PPO 等多种算法与量化调优方案。
chatanywhere/GPT_API_free — gpt_api_free 提供免费和付费两种方式，使用户无需 VPN 即可通过统一的 OpenAI 协议访问多种主流大语言模型 API。该项目为个人学习、教育或非营利研究提供了低门槛的 API 接入途径，但免费密钥受每日请求次数和 Token 数量的限制。
sgl-project/sglang — sglang 是一个面向大语言模型和多模态模型的服务框架，通过 RadixAttention、零开销调度器和连续批处理等运行时特性，提供低延迟、高吞吐的推理能力，并具备多硬件平台兼容性。
ultralytics/ultralytics — ultralytics 提供覆盖检测、分割、分类、姿态估计和目标追踪的实时计算机视觉模型开发与部署能力，通过统一的 CLI 和 Python API 交付 YOLO 模型。模型会在首次使用时自动下载，适合需要快速上手和迭代的视觉任务场景。
2noise/ChatTTS — ChatTTS 是一款专为对话场景优化的文本转语音模型，支持多说话人及对笑声、停顿等细粒度韵律特征的控制。该模型目前仅支持学术研究用途，禁止商用。
cheaper-inference/OmniRoute — omniroute 是一个本地运行的 OpenAI 兼容 AI 网关，将请求路由到 375 个提供商（其中 150+ 提供免费额度），并在配额耗尽或服务失败时自动切换到下一个可用的健康模型。它同时通过 RTK + Caveman 压缩堆叠自动节省 token。
decolua/9router — 9router 是一个智能路由器，将 AI 编程工具连接到免费或低价模型，通过跨层级自动回退避免中断，并压缩工具输出以节省 20-40% 的 token。它解决了订阅额度闲置、速率限制打断编程会话以及工具输出消耗过多 token 的问题。
ggml-org/whisper.cpp — whisper.cpp 是一个以纯 C/C++ 实现的 OpenAI Whisper 模型推理库，用于在应用程序中集成语音识别功能。该实现无额外依赖，且运行时零内存分配，支持多种操作系统与硬件后端。
k2-fsa/OmniVoice — omnivoice 是一个可本地运行的多语言文本转语音项目，支持超过 600 种语言，并提供零样本声音克隆、属性驱动的声音设计、自动选声及发音控制，可通过网页界面、命令行或 Python 库使用。
agentscope-ai/QwenPaw — qwenpaw 是面向个人使用的 AI 助手，支持本地、自托管与托管形态，并提供持久记忆、工具执行、即时通信渠道接入和代码工作界面。它更适合希望在同一套助手后端中组合本地模型、长期上下文与多种交互入口的用户。
AlexsJones/llmfit — llmfit 检测本地硬件资源，从多个维度对模型目录进行评分并推荐与系统匹配的模型。该项目提供交互式终端界面、经典命令行输出和实际基准测试功能。
xtekky/gpt4free — gpt4free 是一个聚合多种 LLM 与媒体生成提供方的开源项目，提供本地 GUI、OpenAI 兼容 REST API 及 Python/JavaScript 客户端。它通过多提供方适配器将请求路由至不同的外部或本地服务，降低了对单一服务的依赖。
microsoft/qlib — Qlib 是一个面向量化投资研究的模块化框架，覆盖从数据处理到模型训练再到回测的完整流程。它通过 qrun 工具自动串联整个工作流，支持包括强化学习在内的多种机器学习范式。
mudler/LocalAI — localai 是一个开源 AI 引擎，可在用户自有基础设施上运行涵盖文本、音频、图像和视频的多模态模型，且不强制要求 GPU。它提供与 OpenAI、Anthropic 和 ElevenLabs API 兼容的接口，便于已有应用对接。
songquanpeng/one-api — one-api 将多个 LLM 提供商的访问统一到标准 OpenAI API 格式之下，提供密钥管理与二次分发能力。它通过多渠道路由分发请求，帮助开发者和团队统一接口调用。
keras-team/keras — keras 是一个高级深度学习框架，支持在 JAX、TensorFlow、PyTorch 和 OpenVINO 后端上构建、训练和推理模型，旨在提供易调试的开发体验并规避框架锁定。
Zackriya-Solutions/meetily — meetily 是一款隐私优先的本地 AI 会议助手，能够完全在设备端捕获音频并完成实时转写与摘要，无需将数据发送至云端。它支持使用 Whisper 或 Parakeet 等模型进行本地推理，适合需要严格数据主权的会议记录场景。
ultralytics/yolov5 — ultralytics/yolov5 是一个基于 PyTorch 的视觉 AI 模型，支持目标检测、实例分割和图像分类任务，可用于快速训练、推理和部署。
CorentinJ/Real-Time-Voice-Cloning — real-time-voice-cloning 是基于 SV2TTS 深度学习框架的语音克隆工具箱，能够从数秒音频中提取声纹并合成任意目标文本的语音。该项目使用较早期的技术，适合用于学习和实验，不适合对音质有高标准的生产环境。
harvard-edge/cs249r_book — cs249r_book 是一套注重动手实践的机器学习系统（MLSys）教材与实验课程，旨在弥合机器学习模型训练与真实世界可靠运行的端到端工程系统之间的鸿沟。
google-research/timesfm — TimesFM 是 google-research/timesfm 提供的预训练时间序列基础模型，基于 decoder-only 架构，支持零样本的单变量与多变量预测。它提供 PyTorch/MLX 推理库，并支持协变量输入。

搜索

按分类找 AI 开源项目