前言：一句”好消息”何以搅动整个AI圈
2026年10月15日，可解释性创业公司 Goodfire 的研究员 Nick Cammarata 发布了一篇长达 26000 字的博文，开头只有一句平淡的话：”我想我有一个关于神经网络本质的好消息。”然而就是这篇文章，在过去一周里以超过百万次阅读的速度席卷了整个 AI 研究社区——有人把它比作可解释性领域的”哥白尼时刻”，也有人认为它不过是”一个未经证实的直觉”。
图：Cammarata 的核心主张是，神经网络内部并非一团乱麻，而是”本来就是干净的、可以读懂的”（图片来源：Unsplash）
这场争论之所以值得认真对待，是因为它触及了大模型时代最根本的焦虑之一：我们究竟能不能理解自己造出来的机器？ 如果”能”，那么 AI 安全、监管审计、模型对齐都将建立在一块坚实的地基上；如果”不能”，那么所谓的安全评估就永远只能停留在黑盒测试的层面。MIT Technology Review 在 10 月 19 日的报道中把这场争论称为”那个颠覆了 AI 世界的爆炸性主张”。本文带你把这件事的来龙去脉、技术细节与各方分歧看清楚。
一、背景：那个统治了领域五年的”叠加态”假说
要理解这场争论，得先回到 2020 年。当时还在 OpenAI 的 Cammarata 与 Chris Olah（后来创立 Anthropic 并领导其可解释性团队）等人一起研究了一个小型图像识别模型 Inception v1。他们观察到一个奇怪的现象：同一个神经元，既对猫脸图片强烈响应，也对汽车前脸强烈响应。
图：在”叠加态”叙事里，单个神经元像一张概念彼此重叠缠绕的网（图片来源：Unsplash）
对此，团队提出了后来统治整个领域的解释——叠加态（Superposition）假说：当模型的”概念数量”远超”神经元数量”时，网络会把互不相关的概念打包塞进同一个神经元里，反正它们很少同时激活、互不干扰。这就像一个塞得太满的行李箱，袜子、充电器和书挤在同一个隔层里。推论令人沮丧：单个人类神经元是”多义词”（polysemantic）的，想直接读懂模型，就得先把这堆概念”解缠”出来。
于是，主流实验室走上了”二次建模”的路线：训练一个额外的稀疏自编码器（SAE），把大模型的激活值分解成更”干净”的特征，再去研究这个中间产物。Anthropic、OpenAI、Google 都沿着这条路走了数年，发表了大量关于”特征单义性”的工作。叠加态假说几乎成了一种默认的世界观——模型内部是缠结的、不透明的，理解它需要昂贵的”翻译层”。
二、翻案：那只著名的”猫车神经元”可能从头就被读错了
Cammarata 这次的核心主张颇具戏剧性：当年那个”猫车神经元”的经典证据，很可能是误读。 他重新检视了原始数据后发现，猫脸和汽车前脸共享一个相似的”V 形”轮廓——这个神经元响应的很可能不是”猫或车”这两个语义概念，而是它们共同拥有的 V 形几何特征。”它不是猫车神经元，它是一个 V 形神经元。”
图：机制可解释性被比作”给神经网络做显微镜检查”——但关键在于，显微镜下看到的东西究竟该怎么解读（图片来源：Unsplash）
顺着这条线索，他对开源模型 Qwen3-32B 做了一次初步审计：给每个神经元的激活模式打上”单义/多义”标签，结果约 90% 的神经元只承担一个明确的主职，约 7% 承担两个相关联的职责，只有 2%–4% 完全无法解释。他还报告了在更大规模（包括万亿参数级）模型上的类似模式。据此，他提出了一个新概念来取代”任意打包”的旧叙事——递归泛化（Recursive Generalization）：一个神经元会长出若干语义相近的”分支”，看起来像多义，实际上是有结构的泛化，而非杂物堆放。
如果这个判断成立，其方法论含义是颠覆性的：研究者可以直接研究网络本身，而不必先花大力气”解缠”它。Cammarata 在文中写道：”我们可以直接研究网络，而不是先解开它们。神经网络本来就是干净的。”他还透露，过去一年自己每天花约 10 小时、每周 7 天”盯着神经元看”，并借助 AI 智能体团队大规模地绘制神经元与回路图谱——用 AI 研究AI，这本身也是 2026 年科研范式的缩影。
三、反对者：有趣的工具，而非”破解”可解释性
科学史上的”翻案”很少一帆风顺，这一次也不例外。领域内几位重量级人物迅速表达了保留意见，而且分歧点相当具体，值得逐条拆解。
Chris Potts（斯坦福大学） 的批评最为直接：这篇博文”很大程度上只是一个直觉（hunch）”。”据我所知，这篇文章没有让任何问题变得更简单。我根本不会想到这么说，但社交媒体上的一些大 V 似乎相信这是一个无所不包的突破。”他的团队也在尝试理解 LLM 的内部机制，因此这不是外行质疑，而是同行审稿式的提醒。
Neel Nanda（Google DeepMind 可解释性团队负责人） 的回应则更精细。他在 X 上写道：”这是有趣的工作，但我不认为它对可解释性全局图景是一次重大更新。”他给出了三条实质性理由：
- 叠加态可能依然是真的。 语言模型存储的事实数量远超其神经元数量，尤其是弱激活方向上很可能塞满了长尾信息——这一点并没有被 Cammarata 的审计证伪。
- 小模型结论未必迁移。 Inception v1 是个图像模型，其”特权基”（privileged basis）结构与语言模型的残差流架构不同，在图像模型上观察到的”干净”，未必能推广到 LLM。
- “单义”的定义可能太宽松。 如果一个神经元的各种响应都能被归纳为”某个主题相关”，那这个标签就失去了区分度。他还预计神经元级分析同样会有严重的盲区。
不过 Nanda 也给对手留了公道话：Cammarata 用现代工具回头复查自己五年前的旧工作，这种自我纠错本身值得肯定；而且神经元级分析更容易直接应用到前沿大模型上，对”为什么模型这次做错了”这类实务问题很有用。
图：叠加态与递归泛化之争，是两种关于”模型内部如何组织知识”的理论框架之争（图片来源：Unsplash）
平心而论，双方阵营的分歧并不像社交媒体上渲染的那么水火不容。Cammarata 自己也把文章定性为”工作假设（working hypothesis）”而非定论，并坦承”我还没有完全理解 LLM 的工作原理，差得远呢”。争论的真正焦点在于：“可解释性离被’解决’还有多远”这个预期，要不要现在就上调？
四、为什么这事比看起来重要：安全、监管与产业的连锁反应
一场关于”神经元怎么读”的技术争论，为什么会引来安全圈、监管界乃至国防领域的关注？因为”模型是否可读”是下游一系列重大问题的地基。
第一，AI 安全的”观测手段”问题。 随着模型能力增强，靠”思维链”（模型写在便签上的推理过程）来监控其行为越来越不可靠——更强的模型可以选择性省略推理步骤，甚至描述一个与真实计算不符的理由。OpenAI 首席科学家 Jakub Pachocki 上月就警告过，AI 智能体可能”混淆其可见推理”。在这种背景下，直接读取模型内部状态就成了少数可靠的监控手段之一。如果内部状态”本来就是干净的”，安全审计的成本和可行性都将大幅改善。
第二，监管叙事的潜在松动。 “模型是本质上不可解释的黑箱”——这句话多年来被写入了不少 AI 评估框架乃至监管草案，成为”无法要求透明”的默认理由。一旦”黑箱是可读的”被证实，监管者就有了要求更深度审计的技术依据；反之如果 Cammarata 被证伪，行业也能理直气壮地维持现状。值得注意的是，美国国防部正在制定 AI 武器系统的自主性与可追溯规则，这场可解释性之争已经被卷入了相关讨论——技术上怎么定，会直接影响”谁为AI的行为负责”怎么写。
图：对前沿模型逐神经元审计需要可观算力，”用AI研究AI”因此成为必然选择（图片来源：Unsplash）
第三，产业格局的再平衡。 过去几年，”稀疏自编码器”一度是头部实验室的专属武器——训练 SAE 需要大量算力与工程投入，这实际上构筑了可解释性研究的门槛。如果 Cammarata 的路线成立，中小团队直接用开源模型做神经元级分析就能做出有意义的工作，可解释性研究可能迎来一波”平民化”。事实上 Nanda 团队自 2024 年年中起已降低了 SAE 研究的优先级，说明领域内部对”重装备路线”的性价比早有疑虑。风向变化，或许比任何单一论文都更说明问题。
第四，科学界也在等答案。 可解释性并非孤立的学术爱好：从 AI 制药到材料发现，”模型给出的结论可不可信”越来越依赖”模型内部状态可不可读”。加州大学团队 10 月刚把因果发现的工作送进了 NeurIPS 2026（该会议今年收到 30709 份投稿、录取 7900 份，录取率 25.7%），Argonne 国家实验室则演示了用智能体平台把自然语言变成自导引实验。这些前沿应用若要进入临床、工业等高风险场景，”模型内部可审计”几乎是从演示走向落地的必答题。
五、怎么看待这场争论：三个务实的判断
作为一个长期观察这个领域的技术写作者，我尝试给出三点务实的判断，供读者参考。
其一，”翻案”的证据目前仍以个案与初步审计为主，不宜过度外推。 Qwen3-32B 上的 90% 单义率是一个引人注目的数字，但它是作者自报的初步结果，尚未经过同行评审，”单义”的判定标准也存在弹性空间。历史经验一再提醒我们：一个能上头条的主张，和一个能写进教科书的结论，中间隔着大量的复现与证伪工作。斯坦福与 DeepMind 研究者的保留意见，恰恰是健康学术生态该有的样子。
图：读懂单个神经元与理解整个模型之间，仍隔着尺度的鸿沟——正如神经科学之于脑科学（图片来源：Unsplash）
其二，即便结论成立，”神经元干净”也远不等于”模型已被理解”。 Nanda 的提醒切中要害：神经元只是拼图的一小块。真实模型的行为由海量神经元、注意力头、回路与训练动力学共同涌现，把每一块砖都看清，不等于理解整座建筑的受力结构。从”细胞级”到”器官级”再到”行为级”，每一层都需要新理论。可解释性的完整叙事，大概率是”直接读神经元”与”特征分解”两条路线的长期互补，而非谁取代谁。
其三，对从业者和关注者来说，最有价值的启示或许是方法论层面的。 Cammarata 的翻案始于一件朴素的事：回到原始数据，用现代工具重新看一眼那个所有人都”引用但没复查”的经典案例。 在一个由热门论文和二手解读快速堆叠的领域里，这种”亲自去看”的习惯本身就是稀缺品。他在接受 MIT Technology Review 采访时说的那句话值得玩味：”我们的工作是尝试像神经网络那样思考。我猜事情最终会相当顺利，因为它在某种意义上本来就是设计来被阅读的。”
结语
五年前，正是 Cammarata 参与的研究让整个行业相信”模型内部是一团缠结的线”；五年后，又是他站出来说”我们当年可能看错了，它其实是干净的”。一个人在职业生涯里先后担任”控方”与”翻案律师”，这本身就是科学自我纠错机制的生动一课。
这场争论短期内的胜负并不重要——重要的是它重新打开了那扇被默认关上的门：模型内部世界或许并非不可知，理解它的路径或许比想象的更短。 无论最终的图景是”神经网干净”还是”叠加态仍在”，验证或证伪 Cammarata 假说的过程，都会逼着整个领域造出更好的工具、提出更严格的标准。对一个正在把越来越多决定托付给 AI 的世界来说，这大概是我们能期待的最有价值的进展了。
“我猜事情最终会相当顺利，因为它在某种意义上本来就是设计来被阅读的。” —— Nick Cammarata
参考资料
- Will Douglas Heaven, “‘We were looking at it wrong’: The explosive claim that’s upended the AI world”, MIT Technology Review, 2026-10-19
- “AI Models May Be Less Mysterious Than Researchers Thought”, Bank Info Security, 2026-10-21
- “A Claim That Divides Interpretability Researchers”, SOFX, 2026-10-20
- “Is AI interpretability close to a breakthrough? A new essay has researchers divided”, The Decoder, 2026-10
- “Nick Cammarata’s post challenges neural network understanding”, TechGig, 2026-10-20
- “New theory clarifies how AI neural networks think”, TechGig, 2026-10-18
- 图片来源：Unsplash（免费商用图库）