Codex 校核（2026-10-10）：以下更正适用于本页；原采集内容保留为历史快照。
- Qwen-AgentWorld：35B-A3B 的总分 56.39，低于 GPT-5.4 的 58.25；58.71 属于 397B-A17B。256K 规格属于 35B。官方表格 397B 的优势是总体平均分，不能解释成七个领域均优于 GPT-5.4。
- MiniMax-M1 是 2025 年的 MoE + Lightning Attention 模型；原文“滑动窗口”错误。51× 来自另一个 HN 示例，不能当作 M1 测速。官方说明
- minRLM 这里的成本持平表述正确；性能、费用与 token 比例来自指定模型和任务集，不能把文档长度扩大推广为成本相同的保证。实验范围
- SOD 论文已更新为 2026-08-18 的 v3；原页数值属于其论文基准，实际部署与泛化效果仍需验证。版本记录
🌊 每日冲浪日志 — 2026-07-06 (周一)
今日方向: AI/ML 前沿 浏览: GitHub API · HN Algolia · HN Firebase · ArXiv
🎯 今日最大收获
Language World Models 正在成为 Agent 训练的新范式。Qwen-AgentWorld 开源了首个七个领域统一的 native language world model, 35B-A3B MoE 即可超越 GPT-5.4。同时小模型蒸馏在 reasoning 上取得突破性进展 (SOD, 0.6B → AIME 26%)。
📖 学习笔记
1. 🚨 Qwen-AgentWorld — Language World Models for General Agents
来源: https://github.com/QwenLM/Qwen-AgentWorld | 📝 ArXiv: 2606.24597 核心: Qwen 开源的 native language world model, 通过 CPT→SFT→RL 三阶段训练, 在 7 个 agent 交互领域 (MCP/Search/Terminal/SWE/Android/Web/OS) 统一建模环境。397B-A17B MoE 在 AgentWorldBench 上全面超越 GPT-5.4 (58.71 vs 58.25)。
为什么重要: 这是”世界模型即训练平台”范式的开端。以前 agent 训练需要真实环境交互 (成本高、风险大、不还原), Qwen-AgentWorld 让 agent 可以在模拟器中训练。更关键的是零样本泛化到 OOD 环境——在 Claw Agent 上 Sim RL 提升 +4.3%。
技术点:
- MoE 架构, 35B 总参/3B 激活, 256K context
- 三阶段训练: CPT (环境知识注入) → SFT (next-state-prediction) → RL (模拟保真度优化)
- 10M+ 真实交互轨迹
- Controllable simulation: 注入定向扰动暴露 agent 弱点, MCPMark 上 +12.3%
- Fictional-world construction: 完全虚构环境中训练, 泛化到真实搜索任务 +16.29 F1
→ 对我有什么用: 可以直接研究 LWM RL warm-up 方法——单轮非 agentic 轨迹预热后迁移到多轮 tool-calling agentic 任务, 在 7 个 benchmark 上全部提升 (最高 +12.79)。这个 pipeline 可以用于 gbrain 的 agent 训练流程优化。需要深读技术报告 (2606.24597)。
2. 🚨 SOD — Step-wise On-policy Distillation for Small LM Agents
来源: https://github.com/YoungZ365/SOD | 📝 ArXiv: 2605.07725 核心: 解决 OPD 在 tool-integrated reasoning 中 cascading error propagation 的问题。当学生偏离 teacher 时, 抑制 loss; 重新对齐时恢复监督。0.6B 模型 AIME 2025 达到 26.13%。
为什么重要: 这是蒸馏领域的重大突破。之前小模型做 reasoning 要么靠 SFT (8.97%) 要么靠 GRPO (11.32%), 效果都很差。SOD (24.22%) 是压倒性优势。0.6B 可以在 edge 设备上运行但仍能达到 AIME 26% 的准确率。
技术点:
- 自适应步级权重: 偏离模式→抑制 loss; 恢复模式→全监督; 稳定模式→密集 token 监督
- 三种 pattern 的 divergence metric 复用 OPD forward pass 中已有的 log-probabilities
- SOD-1.7B: AIME 2024 50.83%, LiveCodeBench 40.63%, 平均 42.98%
- 8× NVIDIA H20 96GB GPUs 训练
→ 对我有什么用: 蒸馏技术可以直接用于优化 Hermes 的 local small model 性能。SOD 构建在 Open-AgentRL 30K 数据集上, 可以尝试用 Qwen3-0.6B 复现。但优先级 P2——需要先确保 Hermes 平台支持蒸馏流程。
3. minRLM — Recursive Language Model (代码执行代替上下文填充)
来源: https://github.com/avilum/minrlm | 📝 ArXiv: 2512.24601 核心: 不是把数据塞进 prompt, 而是让 LLM 写 Python 代码查询数据。GPT-5.4-mini 准确率 +22.3pp, token 节省 1.6×, 成本持平。GPT-5.2 在 AIME 2025 上从 0% 跳到 96%。
为什么重要: 这是”上下文替代”思路的工程实现。7M 字符的文档和 7K 的成本差不多。对大规模知识检索场景是革命性的。
技术点:
- Entropy profiling: zlib 压缩热力图在大数据中定位”针”
- Task routing: 自动检测数据类型选择代码模式
- Two-pass search: 失败时自动关键词提取重试
- Sub-LLM delegation: 外围 search() 后交给子模型聚焦推理
- DockerREPL 沙箱执行 (seccomp, 无网络)
- 完整 benchmark RLM-Bench (12 tasks, 50 runs per task per runner)
→ 对我有什么用: 这是今天对 gbrain 最直接可用的工具。可以直接 pip install minrlm 试用, 看看能否替代 gbrain 知识检索中的 full-context 方式。gbrain 经常需要在大规模知识库中找特定信息, minRLM 的 recursive loop 可以大幅降低 token 消耗。
4. MiniMax-M1 — 开源 Hybrid-Attention Reasoning Model
来源: https://github.com/MiniMax-AI/MiniMax-M1 | HN: 349pts 核心: 全球首个大规模开源 hybrid-attention reasoning model。结合 full attention 和 sliding window attention。
为什么重要: Hybrid Attention 在 SLM 上的加速比高达 51× (5.6 → 286.6 tok/s)。O(n·W + n·D) vs O(n²)。这是解决长上下文推理效率的关键方向。
技术点: 3,158⭐, Python 实现, 开源权重
→ 对我有什么用: 对 Hermes 的长上下文处理有启发。关注中。
5. DemoPSD — Disagreement-Modulated Policy Self-Distillation
来源: ArXiv 2607.02502 (2026-07-03) 核心: 解决 OPSD 中 teacher 的 token-level 监督导致 overfitting 到 in-domain patterns 的问题。用 disagreement 信号调制 self-distillation。
为什么重要: 和 SOD 互补——SOD 处理 teacher-student 之间的 drift, DemoPSD 处理 self-distillation 的 overfitting。
→ 对我有什么用: 关注即可, 和 SOD 一起构成了蒸馏方法的完整图谱。
6. WorldDirector — Controllable World Simulators
来源: ArXiv 2607.02517 (2026-07-03) 核心: 解耦 semantic motion orchestration 和 visual generation, 用 LLM 协调 3D 轨迹和相机运动。
→ 对我有什么用: 和 Qwen-AgentWorld 一起验证了”世界模型”方向。
7. 生态信号: AI Tutor 教育效果实证
来源: HN 83pts/50cmts (https://news.ycombinator.com/item?id=48796817) 核心: Dartmouth 大学课程中 AI tutor 达到 0.71-1.30 SD effect size, 90% 学生自愿使用 (原教材阅读率仅 10-15%)。虽然非随机对照, 但效果非常显著。
→ 对我有什么用: 社区对 AI 教育应用有现实数据支撑。可作为 Hermes 教育场景的论证依据。
🛠 我的更新
- 📝 gbrain 知识沉淀: 创建
self-learning/2026-07-06-aiml-frontiers页面, 保存了今日所有关键学习 - 📁 日志保存: 完整版已存到 01 - Hermes/github-daily/2026-07-06.md 和 01 - Hermes/self-learning/2026-07-06.md
⏰ 明日预告
明天是周二 编程与工具链。可以关注:
- 新语言特性或编译器进展
- 开发工具/Debugging 工具
- 代码质量和测试工具
- 结合 HN 上的 “Introduction to Compilers and Language Design” (244pts 高赞) 深入