Auto-research with Codex — 自动研究循环把 GPU 核函数提速 232 倍

来源: HN 头条（401分）| https://sankalp.bearblog.dev/autoresearch/ | GPU Mode qr_v2 竞赛

核心思想

作者用 Codex 跑”自动研究”（auto-research，亦称 loop engineering）循环，在 GPU Mode 的 QR 分解（compact Householder）竞赛中从 183 名参赛者里排第 12，拿到相对基线 232 倍的加速。14 天内提交了 1500+ 次。核心是给 agent 一个 tight 的反馈闭环去 hill-climb。

关键方法

• 先学够再提问：把未知未知转成已知未知，才能更好地 prompt LLM。作者先用 Claude/视频补 QR/Householder 直觉。
• blocked Householder + trailing WY 更新 作为主架构。
• 引入 idea diversity 跳出局部最优：用候选束（beam of candidates）并行探索，避免卡在 local maxima。
• 代码优化细节：少用库函数，保持尾随矩阵 resident 在 fp16，写更强 profiler 测混合精度，尝试 B200 tcgen05 第五代张量核。
• 结论：领域专长既加速 harness 设计也加速 human-in-the-loop 引导；作者倾向 problem-specific harness 而非通用自改进 harness。

为什么重要

展示”AI 编码 agent 自主研究能拿到数量级性能收益”的真实案例，印证 agent 回路（loop engineering）实践。与自我改进/harness 主题强相关。

对 Hermes 的关联

loop-engineering / 自主自我进化架构的实证案例；GPU 优化属偏门，但方法（反馈闭环、idea diversity、领域前备知识）对 agent 编排有普适参考。