Codex 校核(2026-10-10):以下更正适用于本页;原采集内容保留为历史快照。
- One API 也有 Web UI、用户管理、额度计费与充值管理;原文不能把这些列为 CoAI 独有能力。订阅功能等差异须逐项比较。响应缓存只在请求命中时复用结果,与上下文压缩是不同机制。One API 官方功能表
Core Idea
CoAI.Dev 是一款功能完整的开源 LLM 网关,定位为 “Next Web + One API” 的下一代方案。它集成了多模型支持、多租户管理、订阅计费、频道管理、OpenAI 兼容代理和完整的 Web UI。
Key Details
- Stars: ⭐9,229 | 语言: TypeScript/Go | 许可: Apache-2.0
- 支持的模型: OpenAI/Anthropic/Gemini/Midjourney/SparkDesk/ChatGLM/Qwen/DeepSeek/百度千帆等 16+ 厂商
- 核心特性:
- 多租户计费系统:支持订阅制 + 弹性计费(按次/按 token/免计费)
- 智能频道管理:优先级 + 权重 + 用户分组 + 自动重试 + 模型重定向 + 内置上游隐藏
- 模型缓存:相同请求参数 hash 命中缓存不计费
- 完整的后台管理面板:公告、用户、订阅、兑换码、价格、模型市场自定义
- OpenAI API 兼容代理分发系统
- 支持文件解析 (PDF/Docx/Excel)、OCR、互联网搜索 (SearXNG)
- 架构: Go 后端 + React/Shadcn UI + MySQL + Redis
- 部署: Docker Compose 一键部署,已在 Zeabur/阿里云计算巢/宝塔面板上架
Why This Matters
这是 LLM 网关品类中最功能完整的开源项目之一。对比同类:
- vs One API (songquanpeng/one-api): CoAI 有完整 Web UI、计费系统、订阅管理
- vs Bifrost (KDnuggets 2026 推荐): CoAI 多了用户端 B2C 界面和商业功能
- vs Plano/ArchGW (Envoy 团队构建): CoAI 更注重商业运营,Plano 注重基础设施层
Relevance to Hermes
- 与 Hermes 的模型提供商层互补:Hermes 使用 opencode-go 作为推理网关,CoAI 提供了更完整的商业运营层方案
- 其频道管理(优先级+权重+重试+降级)设计与 Hermes 的 3 层降级架构理念一致
- 模型缓存策略可以借鉴到 Hermes 的 context compaction 中
- 计费/用量追踪功能对管理多个 API Key 的 token 成本有参考价值