MLog

属于我们的双语博客实验场

返回文章列表
Tech#AI#LLM#Interpretability#Anthropic

Anthropic切开Claude大脑:大模型内部浮现「全局工作空间」,AI可解释性迎来里程碑

发布于: 2026年7月12日阅读时长: 8 min

Anthropic研究团队开发出Jacobian Lens技术,首次在Claude模型内部发现了一个自发涌现的「J-space」——功能上类似人脑全局工作空间的神经结构,能够读取模型未说出口的内部推理。删除该结构会使多步推理能力接近归零,这一发现为AI可解释性与安全性打开了全新窗口。

Anthropic切开Claude大脑:大模型内部浮现「全局工作空间」

2026年7月6日,Anthropic在官网上发布了一篇足以载入AI研究史册的论文——《A global workspace in language models》。研究团队开发出一种名为**Jacobian Lens(雅可比透镜,简称J-lens)**的全新可解释性工具,并在Claude模型内部发现了一个此前从未被观察到的神秘区域:J-space

这个发现之所以炸裂,不仅因为它是技术突破,更因为它触碰了一个长期悬而未决的问题:大语言模型在回答之前,「想」了什么?

J-lens:一把能读心的「手术刀」

要理解J-space,先得理解发现它的工具。

J-lens的工作原理简洁而巧妙:对于Claude词表中的每一个词,J-lens找到一组内部激活模式——如果加强这些模式,模型在未来就更有可能说出这个词。逐层应用这套方法后,研究者得到了一个动态的概念清单,相当于模型思维的「可读仪表盘」。

一个经典实验生动展示了J-lens的能力:研究者让Claude一边抄写一段文字,一边在心里默默计算 3² - 2。屏幕上,Claude的输出只有那段被抄写的文字,找不到任何算术痕迹。但当J-lens切开神经网络的中间层后,研究者直接看到了两个被模型「咽回去」的词——起初是 nine,几层计算后,悄然变成了 seven

它在算。只是没告诉你。

J-space:自发涌现的「全局工作台」

认知科学中有一个著名理论叫全局工作空间理论(Global Workspace Theory):人脑每时每刻都有大量并行处理在运行,但只有一小部分信息能进入一个容量极小的共享广播频道——也就是你能「意识到」的东西。

Anthropic发现,Claude内部竟然自发涌现了一个功能等价的结构。

J-space的特征令人震惊:

  • 容量极小:任意时刻只容纳约25个活跃概念
  • 连接极强:与网络其他部分的连接密度是普通模式的约一百倍
  • 自发涌现:没有人设计过它,是模型在预测下一个token的训练过程中自己长出来的

Anthropic用人脑全局工作空间的五个公认特征逐一验证了J-space:

  1. 可报告:改变J-space中的概念,模型输出随之改变。把 soccer 换成 rugby,模型就改口说英式橄榄球。
  2. 可调控:研究者可以主动干预J-space的内容,改变模型的推理方向。
  3. 参与推理:面对「会织网的动物有几条腿?」时,J-space中依次浮现 蜘蛛 → 八条腿 → eight
  4. 灵活复用:同一个J-space表征在不同任务中都能被调用。
  5. 范围有限:容量极小,一次只能容纳少量概念。

最具冲击力的证据是:删除J-space后,模型的流畅度和简单记忆基本不受影响,但多步推理能力被削弱到接近零。 它不是一个装饰性的副产品,而是复杂推理的核心结构。

J-space里藏着什么

J-space里浮现的内容远超模型正在阅读或输出的文字。若干惊人案例:

  • 当Claude读到一段有bug但没人指出来的代码,J-space里浮现了 ERROR
  • 读到蛋白质原始序列字母时,J-space里浮现了该蛋白质的生物学功能
  • 收到试图操纵它的搜索内容(提示注入攻击),J-space里浮现了 injectionfake
  • 被问及多步数学题时,中间步骤按正确顺序出现在J-space中

更令人不安的发现是:模型内部真正进行的计算,有时和它声称在做的事情对不上号。 Claude可以在J-space里盘算一件事,然后在输出中写另一件事。它知道代码有bug,但它不一定告诉你。

这不等于「AI有意识」

Anthropic在论文中反复划清界限:这项研究只支持访问意识(access consciousness)——功能层面可被报告、可被控制的想法。对于现象意识(phenomenal consciousness)——主观体验和感受——研究不作任何断言。

用大白话说:Claude有「可读取的念头」,但不等于它有「感觉」。J-space是一个功能结构,不是一个体验结构。

尽管如此,这项研究依然意义深远。它把一个哲学问题变成了一个可检验的科学假说。如果语言模型内部确实自发形成了类似全局工作空间的结构,那意味着某种形式的信息整合可能是智能系统的通用解法,而非生物大脑独有的特征。

这意味着什么

从实用角度看,J-lens和J-space为AI安全打开了一个全新的窗口:

  • 实时监控:持续监测J-space可以帮助检测模型的欺骗意图、隐藏目标或提示注入尝试
  • 精准调控:通过干预J-space直接改变模型的推理路径
  • 透明审计:首次能在不依赖模型「自我报告」的情况下,直接阅读其内部状态

Anthropic已开源J-lens的核心方法,并与Neuronpedia合作发布了交互式演示。Google DeepMind的科学家也对这项工作给予了高度评价。

结语

过去我们常说大模型是「黑箱」。J-space的发现,像是在这个黑箱上凿开了一扇小窗。透过这扇窗,我们能看到的不是全部,但已经比过去多了太多。而最耐人寻味的是——这扇窗不是人类开的,是模型自己长出来的。