datawhalechina/self-llm

项目概览

覆盖了在 AMD GPU、昇腾 NPU 和 Apple M 芯片等硬件平台上部署开源大模型的具体教程。

项目类型

模型运行

应用场景

聊天助手 · 学习教育

部署方式

查看项目说明

License

Apache-2.0

适合谁

• 寻找大模型环境配置、部署与微调系统性学习路径的中文初学者。
• 使用 AMD GPU、昇腾 NPU 或 Apple M 芯片并希望在这些硬件上运行大模型的用户。
• 具备一定技术能力并希望通过实际代码和 Notebook 学习大模型应用开发的实践者。

核心能力

• 提供针对不同开源大模型需求定制的详细 Linux 环境配置步骤。
• 指导用户部署和使用 50 多个主流开源大模型，包括命令行调用和在线 Demo 部署。
• 提供涵盖全参数微调以及如 LoRA 和 ptuning 等高效微调方法的教程。
• 提供专门针对 AMD GPU、昇腾 NPU 和 Apple M 硬件平台的环境配置和部署教程。
• 提供实际应用示例和微调模型，如 Chat-甄嬛、Tianji（社交技能）和 AMChat（高等数学）。

限制与风险

• 项目内容定位为指导教程，但仍要求用户具备一定的技术能力来执行部署和使用模型的相关操作。

如何开始

• 上手难度属于中等，用户需要具备一定的技术能力，并准备 Linux 环境以跟随多步骤的技术教程进行环境配置和部署。

核验依据

• GitHub 项目简介: 针对中国宝宝量身打造的基于Linux环境快速微调（全参数/Lora）、部署国内外开源大模型（LLM）/多模态大模型（MLLM）教程
• README: 然而，当前普通学生和用户想要使用这些大模型，需要具备一定的技术能力，才能完成模型的部署和使用。对于层出不穷又各有特色的开源 LLM，想要快速掌握一个开源 LLM 的应用方法，是一项比较有挑战的任务。
• README: ✨ 已支持 50+ 主流大语言模型 ✨
• README: 🚀 AMD GPU 平台已支持模型
• README: 🚀 昇腾Ascend NPU 平台已支持模型

内容核验时间：