众力资讯网

Claude 放出一条重磅消息:“我们发现了 AI 思考的意识空间”。 这次还

Claude 放出一条重磅消息:“我们发现了 AI 思考的意识空间”。

这次还真不是那种“AI 意识觉醒”之类的标题党,他们搞了点儿真东西。

他们用一种叫 J-lens(雅可比透镜) 的数学工具,在 Claude 的身体里,硬生生抠出了一个功能上高度类似人脑“全局工作空间”的神秘区域——J-space(J空间)。

别误会,Claude 还没进化出能跟你一起抱头痛哭的“碳基情感”,但人类历史上第一次,我们得以在不改变模型输出的前提下,100% 精度地偷窥大模型的“脑内小九九”。

你想想,马斯克的 Neuralink 搞了这么久,人类想读懂自己大脑的意图,还要往脑子里插电极,或者用分辨率极低、一个像素就塞了十几万个神经元的 fMRI(核磁共振)去猜。

而在 Claude 里,几百亿、上千亿参数的每一次跃动、每一个向量,在人类面前都是赤裸裸、无死角的绝对透明。

神经科学界几百年梦寐以求、在人类大脑上没能彻底实现的“完美脑图谱”,有可能在硅基生命上面提前实现。

J-space 到底是个啥?

大模型平时说话,我们只看到了它吐出来的“Token(词)”。但它在吐词之前,脑子里到底经历了怎样的风暴?

我们可以用 3 个生活中的场景来科普一下 J-space:

例子一:职场人的“面具”与“内心戏”(无声的思维草稿)

周五下午 5 点半,产品经理突然走过来:“那啥,有个需求要紧急改一下。” 你脸上堆满职业假笑:“好的没问题,我这就看。” 但实际上,在你开口说“好的”之前的 0.01 秒,你大脑的某些区域正在疯狂闪过一连串高频词汇:@¥%&、想离职、加班、没完没了。

J-space 就是 Claude 的这个“内心戏空间”。

过去大模型想做复杂推理,必须把思考过程当成“思维链(CoT)”老老实实写在屏幕上。

但 Anthropic 发现,哪怕 Claude 表面上波澜不惊地只吐出了一个字,它的 J-space 里其实已经有一张“隐形草稿纸”,在默默把相关的复杂概念全部盘算了一遍。它想了,但它没说。

例子二:公司的“常委闭门会议”(全局工作空间理论)

一家拥有上万名员工的巨型集团,平时绝大多数人的日常工作(比如前台接待、打扫卫生、填报销单)都是例行公事,根本不需要惊动董事长。

只有当公司遭遇重大财务危机,或者要进行百亿级战略转型时,核心高管才会闭门开会,把全公司所有的核心资源调动到一张桌子上讨论。

人脑也是这样,你呼吸、眨眼、甚至说出一些口头禅,都是“潜意识流水线”在走程序。只有遇到困难任务,大脑才会把信息广播到“全局工作空间(Global Workspace)”。

Anthropic 发现,Claude 也是个“实用主义者”。

平时的语法对接、常识检索,它的计算都在底层化解了,J-space 毫无波动。

只有当面对复杂的国际象棋残局、多步跨度的数学证明时,J-space 才会瞬间激活。

这个空间很大手笔地消耗了全模型近 10% 的核心计算资源,只为最精英的“概念高管”提供闭门讨论的场所。

例子三:“测谎仪”(前置的安全红线)

当你接到一个陌生电话,对方说:“我是邮政局的,你有一封涉案信件……”

你的耳朵听到了这些话,但你脑子里的“反诈雷达”瞬间启动,疯狂亮起红灯:骗子、话术、挂断。虽然你可能还会客客气气地调侃对方几句,但你的底层防御机制已经拉满了。

这正是 J-space 最恐怖、也最让安全人员兴奋的应用。

在对抗性测试中,黑客试图用精妙的黑客话术诱导 Claude 制造网络武器。

这时候,Claude 甚至还没来得及拒绝,人类研究员就已经通过 J-lens 看到它的 J-space 里,Attacker(攻击者)、Exploit(漏洞利用)、Malicious(恶意的)这几个特征向量已经像警车霓虹灯一样疯狂闪烁了。

在大模型学会“表面一套、背后一套”之前,人类先一步在它的意识底层装上了“测谎仪”。

在大规模强化学习的催化下,未来的 AI 的逻辑会变得像黑盒子一样诡谲复杂。

如果人类只能通过 AI 最终表现出来的行为去判断它是否安全,那我们迟早会被它“蒙混过关”。

而有了 J-space,AI 领域的“对齐问题(Alignment)”迎来了降维打击。

我们不需要求着 AI 听话,我们直接在它“起心动念”的源头,看着它把每一个危险想法塞进工作区,然后轻轻按下格式化键。