按分类找 AI 开源项目

模型开发

浏览当前公开快照中“模型开发”相关的 AI 开源项目，并查看许可证、部署、适用场景、限制和核验来源。

huggingface/transformers — transformers 是覆盖文本、视觉、音频、视频和多模态的统一模型定义库。它通过提供低门槛的统一 API、支持共享已训练权重以减少算力消耗，并允许在 PyTorch/JAX/TF2.0 框架间迁移模型来提供服务。
jingyaogong/minimind — minimind 是一个面向个人学习者的开源教育项目，提供从零开始用 PyTorch 训练 64M 参数大型语言模型的全流程代码与配套数据集。项目覆盖预训练到强化学习对齐的完整环节，旨在降低理解 LLM 的门槛。
unslothai/unsloth — unsloth 是一个支持通过 Web UI 和代码库在本地运行与训练文本、音频、嵌入及视觉模型的应用，旨在以更快的速度和更低的显存占用完成大模型任务。它同时提供数据集自动构建、模型导出和训练过程监控等支持性能力。
cactus-compute/needle — needle 是一个拥有 2600 万参数的注意力网络模型，用于在手机、可穿戴设备、智能家居设备等小型消费设备上运行 AI 函数调用。该模型大小为 14MB，在 Cactus 上可实现每秒 6000 token 的预填充速度，并支持本地微调。
Lordog/dive-into-llms — dive-into-llms 是一个基于大学课程衍生的免费大语言模型（LLM）编程教程系列，提供涵盖微调、提示工程、知识编辑到 AI Agent 等主题的讲义与可执行代码。
sgl-project/sglang — sglang 是一个面向大语言模型和多模态模型的服务框架，通过 RadixAttention、零开销调度器和连续批处理等运行时特性，提供低延迟、高吞吐的推理能力，并具备多硬件平台兼容性。
karpathy/autoresearch — autoresearch 是一个自主研究循环工具，由 AI agent 自动修改训练代码、执行短时实验并评估结果，用于迭代改进小型 LLM。它将实验标准化为 5 分钟固定训练预算，在单 GPU 上运行 nanochat 训练设置。
pytorch/pytorch — pytorch 是一个面向深度学习研究与 GPU 加速张量计算的 Python 库，通过基于磁带的自动微分系统构建动态神经网络，兼顾灵活性与速度。
mlabonne/llm-course — llm-course 是一份免费的结构化教程，涵盖从 LLM 基础理论到应用部署的完整学习路径，分为 LLM Fundamentals、LLM Scientist 和 LLM Engineer 三个模块，并配有可交互的 Colab 笔记本。
d2l-ai/d2l-zh — d2l-zh 是一本开源的深度学习交互式教程，将数学公式、批判性思维与可运行的工程代码整合于同一资源中。它旨在帮助读者理解从理论到实践所需的知识，从而向应用科学家的方向发展。
huggingface/diffusers — diffusers 是一个面向预训练扩散模型（覆盖图像、音频、视频）的模块化工具箱，提供推理流水线、可互换噪声调度器和可组合的预训练模型组件，基于 PyTorch 构建。它强调可用性优先于性能、可定制优先于抽象封装，适合需要在代码层面灵活控制生成与训练流程的开发者和研究人员。
hiyouga/LlamaFactory — llamafactory 为 100 多种大语言模型和视觉语言模型提供统一微调框架，支持通过零代码 CLI 和 Web UI 完成训练，涵盖从持续预训练到 DPO/PPO 等多种算法与量化调优方案。
shiyu-coder/Kronos — Kronos 是一个面向金融 K 线（蜡烛图）序列的预训练基础模型，采用分层分词器和自回归 Transformer 架构，旨在支持多种量化任务。该项目自述在超过 45 个全球交易所的数据上进行了预训练，并称自身为首个针对金融 K 线的开源基础模型。
josephmisiti/awesome-machine-learning — awesome-machine-learning 是一份按编程语言分类整理的机器学习框架、库和软件的精选目录列表。该仓库本身只提供链接，不包含可运行的代码。
roboflow/supervision — supervision 为计算机视觉应用提供可复用的数据加载、检测、可视化等构建块，支持通过连接器接入多种主流分类、检测或分割模型。它帮助开发者减少重复代码编写，使其能将精力集中在应用逻辑上。
keras-team/keras — keras 是一个高级深度学习框架，支持在 JAX、TensorFlow、PyTorch 和 OpenVINO 后端上构建、训练和推理模型，旨在提供易调试的开发体验并规避框架锁定。
GokuMohandas/Made-With-ML — made-with-ml 是一门教授如何将机器学习与软件工程实践相结合的课程及配套代码，旨在帮助开发者学习构建可靠的生产级机器学习系统。课程在编写代码前先建立对机器学习概念的原理性理解，并提供了涵盖数据处理、训练、实验追踪和模型服务的具体示例。
HandsOnLLM/Hands-On-Large-Language-Models — hands-on-large-language-models 是《Hands-On Large Language Models》一书的配套代码库，提供涵盖大语言模型入门到高级主题的可运行 Jupyter 笔记本及近 300 幅原创教学插图。
ray-project/ray — ray 是一个统一的 Python 与 AI 应用分布式框架，旨在将计算密集型机器学习负载从单机开发环境扩展到集群。它提供无状态任务、有状态 Actor 和不可变对象的分布式抽象。
JuliaLang/julia — julialang/julia 是一门动态编程语言，设计目标是将易用性与数值及科学计算所需的高性能结合。它面向技术计算场景，提供命令行交互式提示符与可执行程序构建方式。
deepspeedai/DeepSpeed — deepspeed 面向需要扩展大模型训练与推理的 PyTorch 开发者，通过 ZeRO、ZeRO-Infinity、3D 并行和 Ulysses 序列并行等系统优化降低分布式计算的工程复杂度。它适合具备代码、编译工具链和环境排障能力的团队，不是面向非技术用户的开箱即用应用。
aymericdamien/TensorFlow-Examples — tensorflow-examples 是一套面向初学者的 TensorFlow v1 与 v2 示例和教程集合，覆盖基础模型、神经网络、数据管理与硬件加速等主题。该项目通过提供清晰、简洁的源代码和 Jupyter Notebook，帮助学习者快速了解并实践 TensorFlow 的各项 API。
hpcaitech/ColossalAI — colossalai 提供一组并行组件，开发者可以像在笔记本电脑上编写模型一样编写分布式深度学习模型，旨在克服大模型训练和推理的硬件与成本瓶颈。
Orchestra-Research/AI-Research-SKILLs — ai-research-skills 是一套覆盖 AI 研究全生命周期的技能库，包含涵盖微调、推理和论文写作等多个类别的技能，使 AI 代理能够自主开展从文献调研到论文撰写的完整研究流程。
d2l-ai/d2l-en — d2l-ai/d2l-en 是一本开源的交互式深度学习教材，以 Jupyter Notebook 为载体，整合了图表、数学公式和可运行的代码。该项目旨在通过统一的教学资源，帮助读者在概念、背景和代码层面学习深度学习。
lllyasviel/ControlNet — ControlNet 是一种神经网络结构，通过为文本到图像扩散模型添加额外的空间条件来实现控制，同时不会破坏已有的生产级基础模型。
yunjey/pytorch-tutorial — yunjey/pytorch-tutorial 提供简明的深度学习教程代码，覆盖从 PyTorch 基础到高级模型，大多数实现代码少于 30 行。适合用于学习而非生产环境部署。
stas00/ml-engineering — 为训练和调试大语言模型及多模态模型提供开源的方法论集合与可复制粘贴的命令指南。内容源自 BLOOM-176B 和 IDEFICS-80B 等大型开源模型的真实训练经验。
modelscope/ms-swift — ms-swift是一个统一框架，覆盖大语言模型与多模态大模型的微调、部署、评估和量化全流程，支持600+文本模型和400+多模态模型。
liguodongiot/llm-action — llm-action 整理了面向大语言模型的训练与参数高效微调教程，部分示例配有代码链接，适合希望动手实践训练流程的开发者与研究人员。
NVIDIA-NeMo/Speech — nvidia-nemo/speech 是面向研究人员和 PyTorch 开发者的语音 AI 框架，用于构建、定制和部署语音识别（ASR）、语音合成（TTS）及语音大模型。目前项目正处于转型期，重心转向音频、语音和多模态大模型。
kvcache-ai/ktransformers — ktransformers 是一个针对大语言模型（尤其是 MoE 模型）的推理与微调框架，通过 CPU-GPU 异构计算降低硬件门槛。它支持在本地环境中加速模型推理并集成微调工具链。
AI4Finance-Foundation/FinGPT — fingpt 面向金融文本处理与金融大语言模型定制，提供金融预测、多任务金融模型、低秩适配微调和检索增强框架。它适合具备 Python、模型运行环境和金融数据处理需求的研究与工程团队，不适合作为真实资金交易或投资建议工具。
THUDM/slime — slime 是一个轻量级的强化学习后训练框架，连接 Megatron 训练与 SGLang rollout，已在 GLM 系列模型发布中得到验证。
microsoft/RD-Agent — microsoft/rd-agent 是一个自动化数据驱动研发流程的开源项目，让 AI 自主从真实材料中提取模型与公式并迭代提出新方案。它覆盖量化交易、数据科学竞赛、论文研读和模型微调等多个研发场景。
huggingface/peft — peft 是一个用于在大型预训练模型上执行参数高效微调（如 LoRA）的 Python 库，仅训练少量额外参数即可降低计算与存储开销，并在性能上接近全量微调。
FareedKhan-dev/train-llm-from-scratch — fareedkhan-dev/train-llm-from-scratch 是一个教程型项目，提供仅使用纯 PyTorch 从零开始构建并训练大语言模型（LLM）的端到端方法与教育性代码。该项目展示了从数据准备、预训练到对齐与对话的 LLM 训练全生命周期。
AiHubCN/Awesome-Chinese-LLM — awesome-chinese-llm 是一个收录了 100 多个开源中文大语言模型资源的精选清单，涵盖基础模型、垂直领域微调模型、数据集与教程。它解决的是优质中文 LLM 资源分散难以发现的问题，其本身是一个导航列表，而非可直接运行的应用程序或模型。
recommenders-team/recommenders — recommenders 是一个用于推荐系统原型设计、实验与生产化的工具包，提供经典算法与深度学习算法的实现示例及可复用 Python 工件。需注意实验性模型未经充分测试且可能需要额外安装步骤。

AI 搜索

按分类找 AI 开源项目