Codex 校核(2026-10-10) 补全原关联条目缺失的 [[,恢复 Obsidian 内部链接语法,并将 TensorZero 指向已收录笔记。官方仓库 当前确实标为 2026-06-12 归档;Agentgateway 的功能覆盖不同,不能据此断言它能完整替代 TensorZero 的评估与优化能力。

Agentgateway: Next Generation Agentic Proxy

来源: https://github.com/agentgateway/agentgateway (⭐3.8k, Rust, Linux Foundation 项目)

Agentgateway 是一个开源的 Agentic Proxy,基于 MCP 和 A2A 协议构建,为 agent 通信提供安全、可观测、可治理的中间层。

核心能力

  • LLM Gateway:统一 OpenAI 兼容 API 路由到主流 LLM 提供商,带预算控制、prompt 增强、负载均衡、故障转移
  • MCP Gateway:通过 stdio/HTTP/SSE/Streamable HTTP 连接 LLM 到工具和数据源,支持 OAuth 认证
  • A2A Gateway:基于 Google 的 A2A 协议实现安全的 agent-to-agent 通信(能力发现、模态协商、任务协作)
  • 推理路由:根据 GPU 利用率、KV cache、LoRA 适配器、队列深度做智能路由到自托管模型
  • 防护栏(Guardrails):多层内容过滤——正则、OpenAI moderation、AWS Bedrock Guardrails、Google Model Armor
  • 安全与可观测:JWT/API Key/OAuth 认证,RBAC + CEL 策略引擎,OpenTelemetry 全链路追踪
  • 活跃度:2132 commits,97 Tags,17 Branches,Linux Foundation 项目,最新 commit 昨天

对比

与 LiteLLM、Portkey 等传统 AI Gateway 相比,Agentgateway 的核心差异在于对 MCP 和 A2A 的原生支持——不只是一个 LLM API 代理,而是整个 agent 生态的通信基础设施。

意义

对运行多 agent 系统的团队是重要基础设施组件。LLMOps 栈正从”单一 API 代理”演化到”agent 通信全栈”——Agentgateway 是这个趋势的典型代表。

关联

标签: llm-gateway mcp a2a agent-proxy llmops