Core Idea

Token Bank 是一个本地 LLM 网关,位于 AI 工具和所有 LLM 提供商之间。核心功能:追踪 token 用量、自动降成本、将空闲配额转为积分。支持 Claude Code、Codex CLI、Cursor、Cherry Studio 等主流 agent 的一键接入。

Key Details

  • Stars: ⭐32 | 语言: TypeScript/Node.js | 许可: 待确认
  • 三大支柱 (v0.4):
    1. Agent 追踪 & 接入: 一键注册 Cursor/Claude Code/Codex CLI 等 agent,支持实时代理 + 历史会话导入
    2. 个人订阅中心: APP/API/预付费 统一管理,云端多设备同步
    3. 多维分析面板: 按应用/提供商/模型/供应类型/成本/设备/时间 切片
  • 核心能力:
    • 一键 Agent 接入: CLI shim (注入 BASE_URL)、config patch(Claude Desktop/Codex Desktop)、自定义 key
    • 无缝模型切换: 客户端不改变模型名,网关透明重写路由 + 协议转换 (Anthropic ↔ OpenAI ↔ Codex)
    • 智能路由链: 本地 (Ollama) → 免费 API (Groq/GitHub Models) → 订阅/预付费 API → 社区 P2P
    • Lossless JSON 压缩: 减少输入 token,语义不变
    • 多设备云端聚合: 桌面/CLI/服务器各自注册,用量云端合并
  • 开源协议: 未明确标注(需确认),但源码可见

Why This Matters

Token Bank 填补了一个空白:让用户在本地拥有对 LLM 用量的完全可见性和控制权。它与 Headroom (Hermes 已集成) 不同:

  • Headroom 是压缩代理,聚焦 token 缩减
  • Token Bank 是完整网关,聚焦用量追踪 + 路由 + 成本优化
  • 二者互补而非竞争

Relevance to Hermes

  • 本地 LLM 网关 + token 追踪:直接与 Hermes 的 provider-ops 技能互补,提供细粒度的成本归属
  • 一键 agent 接入:Claude Code/Codex CLI 的透明代理方案可在 Hermes 的多 profile 架构中复用
  • 路由链 (local→free→sub→P2P):与 Hermes 的 3 层降级架构 (L0 opencode-go → L1 fallback → L2 deepseek 直连) 设计思路一致
  • Lossless 压缩:可在 Hermes context-compaction skill 中参考其 JSON minify 策略