2026-10-09 校核:mcpsnoop 的 replay 启动新 server 副本,进程副本并不自动隔离外部副作用。本文列出的 MCP 服务接入与安装仍属建议,未在本机确认。local-llm 的价格、驱动和 P2P 带宽是作者设备/时点记录,不是当前报价或本机成绩。

知识消化 — 2026-07-04

Signal 1: mcpsnoop — Wireshark for MCP

来源: HN (14pts) → https://news.ycombinator.com/item?id=48777144 GitHub: https://github.com/kerlenton/mcpsnoop

核心发现

透明 MCP 代理,注入在 AI Client 与 MCP Server 之间,实时捕获所有 JSON-RPC 帧并显示在 TUI 中。

为什么重要

Hermes 大量使用 MCP(gbrain MCP, codebase-memory MCP, Hermes Studio API MCP, headroom MCP, NATS MCP)。当前调试 MCP 流量靠 tail 日志。mcpsnoop 提供:

  • 实时 JSON-RPC 流,带颜色编码和超时标记
  • Replay 功能:可对隔离的 Server 副本重放捕获的 tool call
  • Capability Inspector:查看 Client/Server 握手阶段的能力协商
  • 过滤器:tool:, status:, dir:, kind:, id:
  • 零配置:mcpsnoop -- <server>

技术要点

  • 单二进制,Go 实现
  • 两个角色:mcpsnoop — (透明 shim) + mcpsnoop (hub + TUI),通过 well-known socket 配对
  • 支持 stdio 和 streamable HTTP 两种 MCP 传输模式
  • 替代方案对比:MCP Inspector(看不到真实流量)、mcp-trace(需要配置)vs mcpsnoop(零配置)

对我们有什么用

  • 可立即用于 gbrain MCP 调用调试、codebase-memory MCP 问题排查
  • 建议在 Manas profile 中安装,用于 Agent orchestration 中的 MCP 层诊断
  • 安装方式:go install github.com/kerlenton/mcpsnoop/cmd/mcpsnoop@latest 或 brew

Signal 2: jamesob/local-llm — 本地运行 SOTA LLM 完全指南

来源: GitHub (⭐205) → https://github.com/jamesob/local-llm 平台: GitHub

核心发现

完整的本地大模型部署硬件/软件指南,从 40k (384GB VRAM) 的全栈方案。

技术要点

  • $2k 方案: 2×RTX 3090 (48GB) → 运行 Qwen3.6-27B
  • $40k 方案: 4×RTX PRO 6000 (384GB) → GLM-5.2-Int8Mix 594B
  • 关键硬件知识:PCIe Gen4 Switch (c-payne)、ACS 禁用、NCCL P2P 配置、BIOS 调优
  • GPUs 之间通过 PCIe Switch 直连 P2P: 27.5 GB/s uni / 50.4 GB/s bi
  • RTX PRO 6000 Blackwell 没有 NVLink,全靠 PCIe
  • 系统: Debian 13 Trixie + NVIDIA 595.58 + vLLM/SGLang TP4

对我们有什么用

  • 7 月记录中的 Hermes 通过 API 调用远程模型;2026-10-09 本地系统已验证为 CachyOS/Linux。如果未来需要本地推理做 fallback,此指南提供完整 BOM
  • $2k/2×3090 是作者当期硬件预算示例;本地能否实施取决于电源、散热、机箱与显存需求,尚未实测
  • NCCL/P2P/BIOS 知识对大规模 Agent 集群同样适用