songquanpeng/one-api

项目概览

该项目解决多 LLM 提供商之间 API 格式不一致与密钥分散管理的痛点，适合需要统一 API 网关的团队持续关注其渠道路由能力。

项目类型

模型运行 · 基础设施

应用场景

聊天助手

部署方式

Docker / Docker Compose

License

MIT

适合谁

• 需要统一对接多个大模型 API 且希望集中管理密钥的开发者或运维团队。
• 具备将 LLM 接口进行二次分发与多渠道负载调度需求的应用场景。

核心能力

• 该能力通过负载均衡机制将客户端发来的 API 请求分发到多个已配置的上游渠道中。用户通过配置多个渠道，可以利用该机制分发请求，从而对多提供商的访问进行调度。该能力处于可用状态。

限制与风险

• 该项目采用 MIT 许可证，要求在使用时必须在页脚保留对项目的署名及相关链接。
• 如果在容器化部署时使用默认的 SQLite 且未挂载数据卷，容器重启会导致数据丢失。

如何开始

• 项目部署难度较低，提供单个可执行文件或 Docker 容器。默认使用 SQLite 提供开箱即用的基础功能，且完成基础部署过程不需要编写代码。

替代方案与同类比较

• 同样提供调用 100 多种 LLM 的统一 OpenAI 格式接口，并具备成本跟踪、负载均衡和管理仪表板等功能，可作为该项目的直接替代方案。
• 侧重于高吞吐量和内存高效的推理及服务引擎，而本项目侧重于 API 请求路由与网关管理，两者定位不同。

同类比较

• songquanpeng/one-api vs LiteLLM
• songquanpeng/one-api vs vLLM

核验依据

• GitHub 项目简介: LLM API management & key redistribution system, unifying multiple providers under a single API. Single binary, Docker-ready, with an English UI.
• README: 使用 root 用户初次登录系统后，务必修改默认密码 `123456`！
• README: 1. 支持多种大模型：
• README: 3. 支持通过**负载均衡**的方式访问多个渠道。
• README: docker run --name one-api -d --restart always -p 3000:3000 -e TZ=Asia/Shanghai -v /home/ubuntu/data/one-api:/data justsong/one-api

来源更新时间：2026-07-15T18:06:41Z

打开原始 GitHub 项目