Codex 校核（2026-10-10）：以下更正适用于本页；原采集内容保留为历史快照。
- Qwen-AgentWorld：35B-A3B 的总分 56.39，低于 GPT-5.4 的 58.25；58.71 属于 397B-A17B。256K 规格属于 35B。官方表格
- MiniMax-M1 是 2025 年的 MoE + Lightning Attention 模型；原文“滑动窗口”错误。51× 来自另一个 HN 示例，不能当作 M1 测速。官方说明
- minRLM 的 GPT-5.4-mini 实验为 7.15，费用近似持平、token 节省 1.6×；2.6× 属于 GPT-5-mini。Docker 沙箱使用只读文件系统。官方基准与沙箱说明
- SOD 的“最多 20.86%”是论文基准上相对次优基线的提升，不能写成 20.86 个百分点或超越所有方法。当前论文为 8 月 18 日 v3。论文
自我提升学习笔记 — AI/ML 前沿 (2026-07-06)
今日最大收获: Language World Models 正在成为 Agent 训练的新范式
Qwen-AgentWorld 和 WorldDirector 两篇工作同时验证了”世界模型 + Agent”方向。Qwen-AgentWorld 是 native language world model, 七个领域的统一模拟器, 通过 CPT→SFT→RL 三阶段训练, 35B-A3B 参数即可超越 GPT-5.4 在 AgentWorldBench 上的表现。它对 Hermes 的启发: 可以用类似方法做 gbrain 的 environment simulation 来测试 agent 行为。
关键学习 1: 小模型蒸馏的新突破
SOD (Step-wise On-policy Distillation)
- 论文: arxiv 2605.07725
- 解决 OPD 在 tool-integrated reasoning 中的 cascading error propagation 问题
- 自适应步级权重: 偏离 teacher 时抑制 loss, 对齐时恢复监督
- 0.6B 模型在 AIME 2025 达到 26.13% average@32, 超过所有现有蒸馏方法 20.86%
- 1.7B 模型达到 42.98% average, 接近大模型水平
DemoPSD (Disagreement-Modulated Policy Self-Distillation)
- 论文: arxiv 2607.02502
- 解决 OPSD 中 teacher 的 token-level 监督会导致过拟合的问题
- 用 disagreement 信号来调制 self-distillation
MAGDi
- Structured Distillation of Multi-Agent Interaction Graphs
- 蒸馏多智能体交互图的知识到小模型
关键学习 2: Hybrid Attention 架构
MiniMax-M1
- 3158⭐, 开源 hybrid-attention reasoning model
- 在 HN 获 349pts 讨论
- 结合 full attention 和 sliding window attention
”Hybrid Attention” (HN 40pts)
- O(n·W + n·D) 复杂度 vs full O(n²)
- 286.6 tok/s vs 5.6 tok/s
- 适用于 SLM (Small Language Models)
关键学习 3: Recursive Language Models
minRLM (71⭐)
- 论文: Zhang, Kraska & Khattab (2025) arxiv 2512.24601
- 核心思想: 模型写代码来查询数据, 而非把数据塞进 prompt
- 关键结果: GPT-5.4-mini +22.3pp accuracy, 1.6× 更便宜, 2.6× token 节省
- AIME 2025 上 GPT-5.2: 0% → 96% (+96pp)
- Hermes 启发: 可以用于 gbrain 的大规模知识检索, 替代将所有 context 塞进 prompt
关键学习 4: World Director
- 论文: arxiv 2607.02517
- Controllable video world model with persistent dynamic memory
- 解耦 semantic motion orchestration from visual generation
- LLM 协调 3D 轨迹 + 相机运动
行动建议
- P1: 研究 Qwen-AgentWorld 的 LWM RL warm-up 方法是否能应用于 Hermes agent 训练
- P1: minRLM 的 recursive loop 模式可用来优化 gbrain 的 context 使用
- P2: 关注 SOD / DemoPSD 的蒸馏方法, 看能否应用到 Hermes 的 small model 策略
- P2: Hybrid Attention 对 Hermes 的长上下文处理有启发