cheaper-inference/OmniRoute

项目概览

该网关声称覆盖 375 个提供商且其中 150+ 提供免费额度，配合自动 fallback 组合路由与自动 token 压缩，直接针对多账号、死密钥、限流和高昂 API 费用的痛点，并可被 Claude Code、Codex、Cursor 等主流编码工具通过本地端点使用。

项目类型

MCP · 模型运行

应用场景

编程开发

部署方式

查看项目说明

License

MIT

适合谁

• 使用多个 AI 编码工具、持有多家提供商账号、希望统一端点并利用免费额度的开发者。
• 希望由 AI 智能体通过 MCP/A2A 协议自主管理本地网关的用户。

核心能力

• 提供 80+ CLI 命令，并支持 MCP 和 A2A 智能体协议，使 AI 智能体能够自行驱动网关。用户可通过命令行和智能体协议完成网关的管理与调用。
• 跨一组模型链自动路由请求，当配额耗尽、提供商失败或成本飙升时，自动切换到下一个符合条件的健康模型。用户价值在于请求不因单个提供商问题而中断。

限制与风险

• 路由需要用户提供第三方 AI 提供商账号/API 密钥，属于外部依赖，数据边界为 external_required。
• GPU 需求、编码门槛、遥测策略等在事实层面均为上游未说明，选型前需自行确认。
• 成本依赖为 paid_service_optional，部分使用路径可能涉及付费服务，需按实际配置评估。

如何开始

• npm install -g omniroute 安装后运行 omniroute，仪表盘位于 http://localhost:20128；在 Dashboard → Providers 中用自己的账号接入符合条件的提供商；最后把编码工具指向 http://localhost:20128/v1 并使用 OmniRoute 密钥。整体难度为 easy。

核验依据

• GitHub 项目简介: Free MIT AI gateway: one endpoint, 375 providers (150+ free), 1,400+ models Kimi, Claude, GPT, Gemini, GLM, DeepSeek, MiniMax. Works with Claude Code, Codex, Cursor, OpenCode, Cli…
• README: npm install -g omniroute omniroute
• README: stop juggling 10 dashboards, dead API keys and surprise bills
• README: Default stacked combo runs `RTK → Caveman`. When both act on the same tool/context payload, savings compound:
• README: curl http://localhost:20128/v1/chat/completions

来源更新时间：2026-10-21T18:07:07Z

打开原始 GitHub 项目