OmniRoute AI Gateway — 深度研究报告
Codex 核验(2026-10-10):OmniRoute 官方仓库 的免费开源是网关代码属性,不会创建上游账号的免费权益或解除限流/区域网络限制;“16 亿 token/月”是跨入口的目录聚合估计,不能当作一个账号可领取的预算。provider、模型和 free 标签均需核对具体路由与当时官方条款,本次未用账号验证或运行路由。
GitHub: github.com/diegosouzapw/OmniRoute Stars: ⭐17,127 | License: MIT | Stack: TypeScript Source: 2026-07-14 收入 web-learn,7/15 升级为 research
核心定位
OmniRoute 是一个免费开源的 AI 网关,通过单个 OpenAI 兼容端点连接任意 AI 编码工具(Claude Code、Codex、Cursor、Cline、Copilot)到 250+ provider(其中 90+ 有免费额度)。聚合约 16 亿免费 token/月。
关键特性
| 特性 | 详情 |
|---|---|
| 压缩 | RTK+Caveman 堆叠压缩,节省 15-95% token(工具密集型会话平均 ~89%) |
| 路由策略 | 18 种路由策略,4 层自动降级(Subscription→API→Cheap→Free) |
| 容错 | 电路断路器、TLS 指纹隐身 |
| 协议 | MCP(94 工具)、A2A、Guardrails |
| 测试 | 21,000+ 测试,生产级 |
| 部署 | Docker / npm / Electron 桌面应用 |
| 协议翻译 | 单一 /v1 端点自动翻译 OpenAI/Claude/Gemini 协议 |
| 仪表盘 | 免费额度预算追踪 |
为什么值得提升为 Research
- 市场信号: ⭐17,127 星是当前 AI 网关赛道最高星之一(对比 IBM ContextForge ⭐4k、Jarvis Registry ⭐2k、Agentgateway ⭐3.8k)
- 完整的网关能力: 路由/压缩/容错/协议翻译/可观测/仪表盘 — 功能完整度超过已经研究过的 ContextForge 和 Jarvis
- 成本优化实证: 89% 平均压缩率 + 4 层降级 = 可直接计算的实际成本节省
- MCP/A2A 双协议支持: 与 Hermes 当前使用的 MCP 协议栈直接兼容
- 免费额度的市场颠覆性: 16 亿 token/月的聚合免费额度可能改变编码 Agent 的成本模型
在知识网络中的位置
- 集群十一(MCP/A2A 企业网关): 作为第三个重要节点(ContextForge→Jarvis→Omniroute),使该集群达到 3 个深度节点
- 集群十(LLM 成本优化): Omniroute 的 18 路由策略 + 4 层自动降级 + 89% 压缩率 = 成本优化的工程实现范本
- 集群七(基础设施): 可作为 Frugon 的外部数据源,提供免费 provider 列表
横向连接
- mcp-a2a-enterprise-gateways — ContextForge & Jarvis 对比
- agentgateway-mcp-a2a-proxy — Agentgateway (Linux Foundation)
- llm-cost-optimization-routing — 成本优化专题
- frugon-llm-cost-analyzer — Frugon 成本分析器
- coding-agent-token-overhead — Agent Token 开销
积累状态
MCP/A2A 企业网关: ContextForge(4k) + Jarvis(2k) + Agentgateway(3.8k) + Omniroute(17k) = 4 个深度节点 → 已达专题标准 ✅
LLM 成本优化: Databricks Pi + Frugon + loop-cost + Token Overhead + AI Cost Crisis + Omniroute = 6 个节点 → 该方向已非常成熟