hiyouga/LlamaFactory

项目概览

无需编写代码即可通过 Web UI 界面完成 100 多种模型的微调训练，并提供多种对齐算法和多档位 QLoRA 量化支持。

项目类型

模型开发 · 模型运行 · 数据处理

部署方式

查看项目说明

License

Apache-2.0

适合谁

• 不希望深入编写底层训练代码、希望通过 Web UI 快速尝试不同大模型微调配置的开发者和 AI 工程师。
• 需要统一工具来管理多种不同对齐算法（如 PPO, DPO）和多精度量化（如 QLoRA）实践的 AI 研究人员。

核心能力

• 通过零代码的 CLI 和 Web UI 轻松微调 100 多种大语言模型和视觉语言模型。
• 支持持续预训练、监督微调、奖励建模，以及 PPO、DPO、KTO、ORPO 和 SimPO 等多种训练方法。
• 提供 16 位全参数调优、冻结调优、LoRA，以及通过 AQLM/AWQ/GPTQ 等方式实现的 2/3/4/5/6/8 位 QLoRA。
• 提供兼容 OpenAI 风格的 API、Gradio UI 和 CLI，可选择使用 vLLM worker 或 SGLang worker 加载推理。
• 通过 Gradio 驱动的 Web 界面配置微调参数并启动训练任务。

限制与风险

• 对 70B 等大模型进行全参数微调需要大量显存（例如 pure_bf16 模式下需要约 600GB）。
• 在 Windows 系统上运行时，需要用户手动安装特定 GPU 版本的 PyTorch 以及 bitsandbytes 等依赖项。

如何开始

• 通过 pip 或 Docker 完成安装后，执行 llamafactory-cli webui 即可启动零代码微调界面开始使用。

核验依据

• GitHub 项目简介: Unified Efficient Fine-Tuning of 100+ LLMs & VLMs (ACL 2024)
• README: Easily fine-tune 100+ large language models with zero-code [CLI](#quickstart) and [Web UI](#fine-tuning-with-llama-board-gui-powered-by-gradio)
• README: Used by [Amazon](https://aws.amazon.com/cn/blogs/machine-learning/how-apoidea-group-enhances-visual-information-extraction-from-banking-documents-with-multimodal-models-using-llam…
• README: []
• README: Integrated methods: (Continuous) pre-training, (multimodal) supervised fine-tuning, reward modeling, PPO, DPO, KTO, ORPO, etc.

内容核验时间：