Codex 校核（2026-10-10） 补全原关联条目缺失的 [[，恢复 Obsidian 内部链接语法。

Mesh LLM: distributed AI computing on iroh

Mesh LLM 是 n0（Iroh 团队）推出的分布式 AI 推理平台，将多台机器的 GPU/内存聚合成一个统一的 OpenAI 兼容 API，实现”用自己的硬件跑大模型”。

核心架构

P2P 网格：基于 Iroh 的 QUIC 连接，无中心服务器，通过 hole-punching + relay fallback 做 NAT 穿透
三种推理模式：本地运行 → 路由到已加载模型的 peer → 跨机 pipeline 分片（Skippy 模式）
Skippy 分片：将模型按层范围分区，每台机器跑一部分，activations 在节点间流动，客户端无感
插件系统：通过 manifest 声明能力，运行时自动路由；已支持 40+ 模型（0.5B~235B MoE）
协议：3 种 QUIC ALPN — mesh-llm/1（主网格），mesh-llm-control/1（控制面），skippy-stage/2（延迟敏感的激活传输）

直接挑战传统 GPU 云租赁模式——让团队用已有的闲置 GPU 组成私有推理集群，兼顾成本、隐私和模型自主权。对中小团队和注重数据合规的场景有吸引力。生态依赖于 Iroh 的 P2P 网络成熟度。