tashfeenahmed/freellmapi

项目概览

项目针对手动叠加多家免费 LLM 额度时 SDK 差异、速率限制和故障点多等痛点，提供了统一端点、自动重试与轮换以及 AES-256-GCM 密钥加密等可验证的工程方案，且安装门槛低、适配多种编码代理客户端。

项目类型

MCP · 模型运行

部署方式

查看项目说明

License

MIT

适合谁

• 需要在个人实验和学习中尝试多家免费 LLM 提供商的开发者
• 希望通过单一 OpenAI 兼容端点管理多个免费模型额度、降低多 SDK 对接成本的用户

核心能力

• 将多家提供商的免费额度聚合到单一 OpenAI 兼容的 /v1 API 端点后面，并进行智能路由。
• 在 429/5xx 错误发生时自动重试下一个提供商或模型，配合冷却时间和密钥轮换。
• 以 AES-256-GCM 加密存储提供商密钥，向应用暴露单一统一的 Bearer Token。
• 提供 React 界面用于管理密钥、调整故障转移链顺序、运行 playground 以及查看 p50/p95/TTFT 分析数据。
• 提供生成器来获取实时目录、备份已有配置，并为多种编码代理完成客户端配置。

限制与风险

• 不提供前沿模型。
• 延迟存在波动。
• 不提供服务级别协议（SLA）。
• 项目明确面向个人实验和学习，不适用于生产环境。
• 上游提供商的服务条款仍然适用，用户必须遵守。

如何开始

• 提供一行安装脚本和预构建桌面二进制文件，桌面应用无需注册账号或设置密码。
• 运行 curl -fsSL https://freellmapi.co/install.sh | bash 安装，打开 http://localhost:3001，在面板中添加提供商密钥并获取统一 API 密钥。

核验依据

• GitHub 项目简介: OpenAI-compatible proxy that stacks the free tiers of 28 LLM providers (~4B tokens/month) behind one /v1 endpoint
• README: The problem is that stacking them by hand is painful: twenty-nine different SDKs, twenty-nine different rate limits, twenty-nine places a request can fail. FreeLLMAPI collapses th…
• README: **Encrypted keys, one token out** — provider keys are AES-256-GCM encrypted in SQLite and decrypted in-memory per request
• README: Plus a **custom** provider — point chat, embedding, image, or audio models at any OpenAI-compatible endpoint
• README: Most of these configure themselves with one command — `npx freellmapi setup-claude`, `setup-codex`, `setup-aider`, and ten more generators

来源更新时间：2026-08-01T18:19:33Z

打开原始 GitHub 项目