datawhalechina/self-llm

项目概览

覆盖了在 AMD GPU、昇腾 NPU 和 Apple M 芯片等硬件平台上部署开源大模型的具体教程。

项目类型

模型运行 · 提示词工程 · 学习资源 · 模型开发

应用场景

聊天助手 · 学习教育

部署方式

查看项目说明

License

Apache-2.0

适合谁

• 寻找大模型环境配置、部署与微调系统性学习路径的中文初学者。
• 使用 AMD GPU、昇腾 NPU 或 Apple M 芯片并希望在这些硬件上运行大模型的用户。
• 具备一定技术能力并希望通过实际代码和 Notebook 学习大模型应用开发的实践者。

核心能力

• 提供针对不同开源大模型需求定制的详细 Linux 环境配置步骤。
• 指导用户部署和使用 50 多个主流开源大模型，包括命令行调用和在线 Demo 部署。
• 提供涵盖全参数微调以及如 LoRA 和 ptuning 等高效微调方法的教程。
• 提供专门针对 AMD GPU、昇腾 NPU 和 Apple M 硬件平台的环境配置和部署教程。
• 提供实际应用示例和微调模型，如 Chat-甄嬛、Tianji（社交技能）和 AMChat（高等数学）。

限制与风险

• 项目内容定位为指导教程，但仍要求用户具备一定的技术能力来执行部署和使用模型的相关操作。

如何开始

• 上手难度属于中等，用户需要具备一定的技术能力，并准备 Linux 环境以跟随多步骤的技术教程进行环境配置和部署。

替代方案与同类比较

• 若目标是直接获取具有中文理解优化的大模型权重及训练脚本，该项目提供开源的中文 LLaMA 和 Alpaca 模型，可用于本地部署，而非部署和使用教程。
• 若用户需要通过 API 进行高效低精度的微调和推理，而非阅读学习教程，xturing 提供了从数据处理到训练和推理的程序化接口。
• 若目标是构建领域模型的完整训练系统，medicalgpt 提供了包含预训练、SFT、RLHF 等阶段的完整代码实现，而 self-llm 侧重于教学。

同类比较

• datawhalechina/self-llm vs 中文 LLaMA & Alpaca 模型及工具
• datawhalechina/self-llm vs 大模型微调与推理库
• datawhalechina/self-llm vs 医疗领域多阶段训练流水线

核验依据

• GitHub 项目简介: 针对中国宝宝量身打造的基于Linux环境快速微调（全参数/Lora）、部署国内外开源大模型（LLM）/多模态大模型（MLLM）教程
• README: 然而，当前普通学生和用户想要使用这些大模型，需要具备一定的技术能力，才能完成模型的部署和使用。对于层出不穷又各有特色的开源 LLM，想要快速掌握一个开源 LLM 的应用方法，是一项比较有挑战的任务。
• README: ✨ 已支持 50+ 主流大语言模型 ✨
• README: 🚀 AMD GPU 平台已支持模型
• README: 🚀 昇腾Ascend NPU 平台已支持模型

来源更新时间：2026-07-16T18:03:04Z

打开原始 GitHub 项目