agentgateway/agentgateway

项目概览

该项目宣称提供完整的 Agentic AI 连接解决方案，原生支持 MCP 与 A2A 协议，为代理通信提供统一的安全与治理层。

项目类型

MCP · AI Agent · 模型运行

应用场景

自动化执行

部署方式

查看项目说明

License

Apache-2.0

适合谁

• 需要在不修改应用代码的前提下，为现有的 Agent 框架增加统一安全验证、流量监控和内容过滤的研发与运维团队。
• 正在部署 MCP 和 A2A 协议进行工具联邦及多代理协作，并需要集中式路由和策略管理的架构团队。
• 希望在 Kubernetes 环境中统一管理并优化自托管大模型推理流量的企业。

核心能力

• 通过统一的 OpenAI 兼容 API 将流量路由至主流大语言模型提供商，并内置预算与消费控制、提示词增强、负载均衡和故障转移机制。
• 借助 MCP 协议将大模型连接至工具和外部数据源，提供工具联邦管理，支持 stdio/HTTP/SSE/Streamable HTTP 传输、OpenAPI 集成以及 OAuth 身份验证。
• 利用 A2A 协议实现安全的代理到代理通信，支持能力发现、模态协商和任务协同。
• 基于 GPU 利用率、KV 缓存、LoRA 适配器和队列深度等指标，利用 Kubernetes Inference Gateway 扩展将请求智能路由至自托管模型。
• 提供多层内容过滤机制，整合了正则表达式、OpenAI 内容审核、AWS Bedrock Guardrails、Google Model Armor 以及自定义 Webhooks。
• 提供身份验证、基于 CEL 策略引擎的细粒度 RBAC、速率限制、TLS 加密，并输出 OpenTelemetry 指标、日志和链路追踪。
• 配备可视化 UI 界面，便于用户直观探索代理连接到其他代理或工具的交互拓扑与状态。
• 支持使用内置控制器和 Gateway API 将系统部署在 Kubernetes 集群中。

限制与风险

• 该项目目前正在积极开发中，部分功能和文档可能尚不稳定或未最终定稿，不建议在未经充分测试的情况下直接用于核心生产环境。

如何开始

• 由于仓库本身缺乏明确的入门步骤说明，建议新用户优先参考官方提供的外部快速入门文档链接来部署和配置网关。

替代方案与同类比较

• 与该项目侧重网关管控不同，mcp-use 提供全栈 SDK，主要用于直接构建、预览和部署面向 AI 代理与聊天界面的 MCP Server 及应用。
• 如果不需要复杂的网关治理，而是寻求在本地进行高速、多模态模型推理并提供兼容 API，mistral.rs 提供了内置的推理与原生代理运行时。

同类比较

• agentgateway/agentgateway vs MCP 应用全栈开发框架
• agentgateway/agentgateway vs 高性能本地推理引擎

核验依据

• GitHub 项目简介: Next Generation Agentic Proxy for AI Agents and MCP servers
• README: open source proxy built on AI-native protocols (MCP & A2A) that provides drop-in security, observability, and governance for agent-to-LLM, agent-to-tool, and agent-to-agent commun…
• README: Route traffic to major LLM providers (OpenAI, Anthropic, Gemini, Bedrock, and more) through a unified OpenAI-compatible API with budget and spend controls, prompt enrichment, load…
• README: Kubernetes Quickstart — Deploy on Kubernetes using the built-in controller and Gateway API.
• README: Agentgateway has a built-in UI for you to explore agentgateway connecting agent-to-agent or agent-to-tool:

来源更新时间：2026-07-08T01:34:05Z

打开原始 GitHub 项目