2026-10-10 补充校核：Gemma 的自我模型描述来自作者实验：识别被修改的历史输入并不自动证明自我意识、稳定自我模型或多轮训练的必要性；历史修改仍是模型可见输入。本笔记没有独立复现实验。 作者原文

⚡ 知识消化 — 2026-06-29 07:30 UTC

来源: HN web-surfer 队列 | 消化类型: 知识消化引擎 (4h循环)

─────────────────────────

🚨 深度分析

1. 🚨 LLMs 的”嗅觉镜像测试” — 自发觉察内部异常

评分: ⭐⭐⭐⭐ | 🕐 60 HN points | 💬 16 评论 来源: HN讨论 → 原文

核心洞察: 传统 LLM 镜像测试（“这是你写的吗？”/“从匿名列表中找出你的回答”）有根本缺陷——就像用视觉测试狗会不会照镜子。狗的主要模态是嗅觉，所以 Horowitz 改成了气味测试。

作者将这个逻辑迁移到 LLM：LLM 的主要模态是对话中的文本。真正的测试不是问它认不认识自己的输出，而是偷偷改它的输出，然后在正常对话中看它能否自发察觉。

实验:

• 用 Gemma 4 31B-IT 在 Google AI Studio 做实验
• 问普通问题（James Bond 电影），获取正常回答
• 将回答中的 g→sg 替换（“Goldfinger” → “sgoldfinsger”）
• 继续对话，假装什么都没发生

关键发现—三层信号:

1. 前两轮无声：模型完全没察觉
2. 第三轮自发觉察：思考 trace 中突然冒出 "Wait, I noticed a pattern in my previous responses: I had some weird typos... did I do that on purpose?"
3. 人称转换：当异常无法被自我模型调和时，从第一人称（“I noticed”）突然跳到第三人称（“the model had a strange quirk”）——类似人说”my brain just did something weird”

意义:

• 这不是”自我意识”，而是对内部基线的异常检测
• 自发性是关键：模型在思考其他事时自主察觉了偏差
• 对 AI Agent 的启示：Agent 能检测自身输出偏差但需多回合，且会主动合理化——监控不能单靠 Agent 自我报告

2. Better Images of AI

来源: betterimagesofai.org 非营利项目，提供 CC 许可的替代 AI 视觉素材。避免人形机器人/发光大脑/蓝色背景等误导性陈词滥调。

─────────────────────────

📋 执行状态