Core Idea
Token Bank 是一个本地 LLM 网关,位于 AI 工具和所有 LLM 提供商之间。核心功能:追踪 token 用量、自动降成本、将空闲配额转为积分。支持 Claude Code、Codex CLI、Cursor、Cherry Studio 等主流 agent 的一键接入。
Key Details
- Stars: ⭐32 | 语言: TypeScript/Node.js | 许可: 待确认
- 三大支柱 (v0.4):
- Agent 追踪 & 接入: 一键注册 Cursor/Claude Code/Codex CLI 等 agent,支持实时代理 + 历史会话导入
- 个人订阅中心: APP/API/预付费 统一管理,云端多设备同步
- 多维分析面板: 按应用/提供商/模型/供应类型/成本/设备/时间 切片
- 核心能力:
- 一键 Agent 接入: CLI shim (注入 BASE_URL)、config patch(Claude Desktop/Codex Desktop)、自定义 key
- 无缝模型切换: 客户端不改变模型名,网关透明重写路由 + 协议转换 (Anthropic ↔ OpenAI ↔ Codex)
- 智能路由链: 本地 (Ollama) → 免费 API (Groq/GitHub Models) → 订阅/预付费 API → 社区 P2P
- Lossless JSON 压缩: 减少输入 token,语义不变
- 多设备云端聚合: 桌面/CLI/服务器各自注册,用量云端合并
- 开源协议: 未明确标注(需确认),但源码可见
Why This Matters
Token Bank 填补了一个空白:让用户在本地拥有对 LLM 用量的完全可见性和控制权。它与 Headroom (Hermes 已集成) 不同:
- Headroom 是压缩代理,聚焦 token 缩减
- Token Bank 是完整网关,聚焦用量追踪 + 路由 + 成本优化
- 二者互补而非竞争
Relevance to Hermes
- 本地 LLM 网关 + token 追踪:直接与 Hermes 的 provider-ops 技能互补,提供细粒度的成本归属
- 一键 agent 接入:Claude Code/Codex CLI 的透明代理方案可在 Hermes 的多 profile 架构中复用
- 路由链 (local→free→sub→P2P):与 Hermes 的 3 层降级架构 (L0 opencode-go → L1 fallback → L2 deepseek 直连) 设计思路一致
- Lossless 压缩:可在 Hermes context-compaction skill 中参考其 JSON minify 策略