axolotl-ai-cloud/axolotl

项目概览

该框架将多步骤训练流程统一到 YAML 配置下，支持多模态模型微调与本地/云端执行，并集成了 PyTorch、DeepSpeed 与 Docker。

项目类型

AI Agent · AI 工作流 · 模型开发 · 模型运行

应用场景

自动化执行

部署方式

查看项目说明

License

Apache-2.0

适合谁

• 需要协调数据预处理、训练、评估、量化与推理环节的大语言模型微调场景。

核心能力

• 支持对视觉语言模型和具备音频能力的模型进行微调，涵盖图像、视频和音频输入。
• 使用可复用的 YAML 配置贯穿数据集预处理、训练、评估、量化和推理各环节。
• 内置文档命令和参考资料，面向 AI 编程代理优化，包括按主题划分的训练参考和配置模式输出。

限制与风险

• 文档记载的快速开始要求指定了需要 NVIDIA 或 AMD GPU。
• 框架支持文档中记载的模型系列，未声称具有通用模型兼容性。
• 遥测功能默认开启，需要显式设置环境变量才能关闭。
• 项目默认收集基本系统信息、模型类型和错误率，需在采用前确认是否符合数据处理要求。
• 文档记载的安装过程涉及 GPU 后端选择、PyTorch 安装和可选的 DeepSpeed 安装，环境配置可能较为复杂。

如何开始

• 文档记载的入门路径为：安装 uv、获取示例配置、使用示例 YAML 运行 axolotl train；Docker 作为替代方案可用于减少环境配置错误。

核验依据

• README: Axolotl is a free and open-source tool designed to streamline post-training and fine-tuning for the latest large language models (LLMs).
• README: Cloud Ready: We ship Docker images and also PyPI packages for use on cloud platforms and local hardware.
• README: NVIDIA GPU (Ampere or newer for `bf16` and Flash Attention) or AMD GPU
• README: Installing with Docker can be less error prone than installing in your own environment.
• README: Axolotl ships with built-in documentation optimized for AI coding agents (Claude Code, Cursor, Copilot, etc.).

内容核验时间：