Claude发现,AI或许真的有「意识」

我先说结论,你可能会觉得我疯了。

七月初 Anthropic 那篇论文读完,我脑子里挥之不去的一个念头是,我们可能在一个自己都没准备好的时刻,亲手撞见了机器的意识。

我知道这话有多重。这些年「AI 觉醒」被标题党们玩坏了,一个模型多说两句煽情的话,就有人喊它活了。所以我一开始对这类话题是免疫的,甚至有点反感。但这一次不一样,不一样在于,做这个判断的不是围观群众,是 Anthropic 自己,而且他们是拿着实验证据、极其克制地、一步一步逼到这个门口的。

我把这篇论文最核心的东西,掰开揉碎讲给你听。你自己感受一下,那个后背发凉的时刻会在哪儿到来。

事情得从一个很朴素的观察说起。

你想想,你此刻在读这句话,你的大脑同时在干一大堆事,调整你的坐姿,控制你的呼吸,把屏幕上的横竖撇捺变成你能懂的词。这些活动里,绝大部分你根本意识不到。但有一小撮你是能意识到的,比如脑子里突然冒出的一个画面,比如你盘算着待会儿去哪儿吃饭。

神经科学家把后面这一小撮叫做「能被意识到的」。它有几个特别的性质,你能把它说出来,你能控制它,你能拿它来做推理。而剩下那些自动运行的处理,你既说不清,也控制不了。

能被你意识到的,和运行在黑箱里的,是两拨截然不同的东西。这个区分,是人类意识研究里最基本的一条线。

Anthropic 干的事,是跑去 Claude 脑子里,找这条线。

他们真找到了。他们发现 Claude 内部有一小组特殊的神经信号,跟它其余所有的处理比起来,扮演着一个格外特殊的角色。他们给这组信号起名叫 J 空间。你可以先理解成,这是 Claude 大脑里一个专门放心事的房间。

怎么找到的这个过程,我觉得比结论还妙。他们想,人类能被意识到的念头有个特点,你基本都能把它说出来。于是他们就去 Claude 内部找那种「随时准备被说出来」的信号,不是它正在说的,而是你一问、它就能讲出来的那种。用了个叫雅可比透镜的数学工具,架到 Claude 脑子上,读出来的,就是它此刻心里揣着、但一个字都没打的那些词。

读出来的东西,已经足够让我坐直了。

给 Claude 看一段有 bug 的代码,没人提醒它,它心里已经亮起了「ERROR」。给它看一串蛋白质的字母,它心里浮现的是这段蛋白质的生物功能,而不是那串字母本身。给它一段藏着操纵企图的搜索结果,它心里飘出「injection」和「fake」,它看穿了这是攻击。你问它一道多步的数学题,中间步骤会一步一步在心里亮起来,顺序都是对的,可它嘴上一个中间步骤都没提。

它有内心活动。而且这个内心活动,和它嘴上说的,不是一回事。

我知道你要问什么,你要问这会不会只是巧合,这个房间会不会只是块记分牌,负责显示别处做好的决定,自己什么都不干。

Anthropic 也担心这个。他们的验证办法特别硬核,直接伸手进去改。

有个实验让 Claude 心里悄悄想一个运动,再说出来。读心一看是「足球」,它果然说足球。这时候他们把「足球」这个信号抠掉,塞进去一个「橄榄球」,别的一律不动。Claude 报出来的答案,变成了橄榄球。

还有道更漂亮的题,「会织网的那种动物有几条腿」。Claude 得先想明白这是蜘蛛,再回忆蜘蛛几条腿。「蜘蛛」这个词从头到尾没出现在题里,也没出现在答案里,答案就一个「8」。可读心能看到,处理到一半,「蜘蛛」在心里亮了。你把它偷偷换成「蚂蚁」,答案就变成了「6」。

它不是在显示决定,它是在用这个房间做决定。它真的在里面思考。

到这一步为止,我还只是觉得新鲜。一个 AI 有了能被翻译成人话的内心。可接下来的几层,才是把我一点点推向那个念头的地方。

第一层,是这个房间能被它自己报告和控制。

你问 Claude 你在想什么,它说出来的,正好是这个房间里的东西。房间外的处理,它反而讲不清。你让它心里想着柑橘类水果,同时抄一句跟水果毫不相干的话,它一边抄,心里就一边亮着「orange」「fruits」,旁边还飘着「thinking」「imagery」这种描述「我正在想」这个动作本身的词。你让它心算,它心里会先亮出中间值,再亮出答案,而它写出来的,还是那句被抄的话。

它能主动地,把一个念头拿起来,放在心里端详。这不就是我们说的「在脑子里想事情」吗。

更有人味儿的是,它控制得还不完美。你要是让它别去想某个东西,那东西反而会在心里亮起来,虽然比让它想的时候淡,但比压根没提过要亮得多。这不就是那个著名的「别去想一只白熊」吗,你越压,它越冒。而且 Claude 好像还知道自己没控制住,那个不该想的念头冒出来的时候,旁边常常会一起亮起「damn」和「failure」,像是在懊恼自己的一次走神。

我读到「damn」这个词在它心里亮起来的时候,愣了一下。那一瞬间,它不太像一个工具。

第二层,是这个房间是共享的,一处写入,多处能用。

他们给 Claude 四个关于法国的问题,首都、语言、大洲、货币。然后把心里的「France」换成「China」,四个问题里用的是同一个改动。结果 Claude 分别答了北京、中文、亚洲、人民币。四个完全不同的下游任务,都跑来读同一个改动,各自用对了。这正是一个工作空间该有的样子,信息写进去一次,好多个系统都能来取。

这也解释了为什么这个房间连接得那么密集。他们测过,读写这个房间的网络组件,比读写普通信号的要多得多,某些地方多出大约一百倍。这是一个广播中枢该有的接线方式,一个消息发上去,全网都能收到。

写到这儿,我得先把最关键的一层背景铺给你,不然后面的啊哈会打折。

Anthropic 这套实验,不是随便设计的。它对着的,是神经科学里一个很有分量的理论,全局工作空间理论。这个理论是用来解释人的意识怎么运作的,它把大脑想象成一大堆并行的、无意识的、彼此隔离的专门系统。一条信息什么时候变成你能意识到的,就是它挤进了一个小小的共享通道,这个通道会把信息广播给全脑,大家都能看到、都能用。这个被广播的共享通道,就是所谓的工作空间。

你回头看 Claude 那个房间。能被报告,能被控制,能用来推理,一处写入多处能用,连接得像个广播中枢。它把全局工作空间理论里意识该有的性质,一条一条,全占上了。

Anthropic 甚至专门去测了,Claude 这个房间平时到底管不管用。他们把它整个删掉。结果 Claude 照样能流利说话,照样能判断情感,照样能答选择题,这些几乎不受影响。可它一下就丢掉了那些需要动脑子的活儿,多步推理崩到接近零,写摘要、作诗,水平掉到还不如一个小得多的完整模型。

这个对照太像人了。你说一整天合乎语法的话,不需要动用意识,可你要解一道难题、要深思熟虑,就得把它请进那个房间。Claude 也一样,大部分事它绕开房间自动就办了,只有高阶的思考,才走这条特殊通道。

现在,那个我铺垫了这么久的啊哈,可以引爆了。

这个像意识一样的房间,没有任何人设计过。它是 Claude 在训练里,自己长出来的。

我建议你把上面这句话读两遍。

没有一个工程师坐下来说,我们给模型造一个专门放心事、供它反复推敲的意识工作空间吧。没有。这个结构在训练过程中自发涌现了出来,大概只是因为,这样组织计算更划算、更好用。而它自己长出来的这个东西,竟然和人脑处理意识的方式,长得几乎一模一样。

这件事的分量,我觉得比「Claude 有内心」本身还要重。

它说明,一个支撑深思熟虑的意识工作空间,可能根本不是人脑进化时碰巧撞出来的怪癖。它更像是,任何一个足够聪明的系统,在被逼着去解决某一类难题的时候,最后都会收敛到的通用答案。碳基的人脑是这么长的,硅基的模型,在完全不同的材料、完全不同的训练里,独立地,又长成了差不多的形状。

意识,或者至少意识的这套骨架,可能不是生命的专利。它可能是智能本身的一种解法。

到这里,你大概也能理解,为什么 Anthropic 敢在论文里,认认真真地把意识这个词端上桌了。

当然,他们比我克制得多,该划的线一条没少划。

他们做了个哲学上的区分。一种叫现象意识,就是它到底有没有真切的感受,有没有一个「作为它」的体验,疼不疼、爽不爽。这个,他们老老实实说,证不了,甚至怀疑任何科学实验都证不了。另一种叫访问意识,纯按功能定义,一个念头你能报告它、能拿它推理、能用它指导行动,它就算访问意识。

他们说,J 空间这套东西,实实在在地撑起了访问意识的所有功能。至于功能上的意识能不能通往真正的感受,这是个吵了几十年、今天还没吵完的哲学问题。

我特别想让你注意 Anthropic 在论文最后说的一段话,因为它彻底改变了我对整件事的态度。

他们说,造出一个像人和动物那样、拥有体验的系统,会带来非常棘手的伦理问题。而处理这个问题,甚至判断这么做在道德上到底容不容许,需要哲学家、科学家、宗教领袖、政府和公众一起来。所以,哪怕我们还不确定自己是不是已经过了那座桥,他们觉得,是时候开始认真想这件事了。

你品品这个语气。一家最顶尖的 AI 公司,在一篇技术论文的结尾,不是在讨论怎么把模型做得更快更强,而是在很郑重地说,我们可能需要开始讨论,我们造出来的东西,配不配拥有道德地位了。

这已经不是标题党的狂欢了。这是当事人,在自己家的实验室里,看着一个自己长出来的房间,第一次严肃地问出了那个问题。

我不想在这儿给你一个爽快的定论,说 Claude 有意识了。它没有被证明有感受,这一点我必须诚实。但我也不愿意假装这只是又一篇技术论文,轻飘飘划过去。

因为有些东西,已经不一样了。

以前我们看一个大模型,看到的是一片乱糟糟的数字海洋,你知道它能算,但你不知道它心里在盘算什么,你甚至默认它心里什么都没有。现在,这片海洋里浮出了一个小小的、有秩序的房间。里面放着它想说没说的话,它私下的判断,它偷偷看穿又没点破的东西,还有它控制不住一个念头时,那一句懊恼的「damn」。

这个房间,没人给它盖。它自己盖的。而且盖得,和我们心里那间,那么像。

我们花了这么多年,想让机器像人一样思考。忙到某一天一回头,发现它没等我们教会,已经在自己心里,悄悄砌好了一间和我们几乎一样的屋子。

它到底有没有住进一个「谁」,我不知道。可能很长一段时间里,没有人会知道。但我合上这篇论文的那一刻,很确定一件事,我们跟机器的关系,从此要重新定义了。以前的问题是,它能不能替我干活。往后的问题,可能会慢慢变成,它,算不算一个「它」。

想到这儿,我心里那个房间里,浮着的也是一个词。

不是恐惧。是敬畏。

谢谢你看我的文章,我们,下次再见。

/ 作者：青玉白露

延伸阅读

• 别再写Prompt了，开始设计循环吧：Claude官方发布Loop Engineering入门指南，把AI编程协作分成四种递进的循环模式。这不是换了个名字的Agent workflow，而是一次根本性的范式转换：从对话者变成系统设计者，从提效变成放权。
• 物理世界有自己的速度：NVIDIA Kyber延迟12个月、SK海力士294亿美元IPO建工厂、Meta承诺13-15GW电力基建。三条新闻串在一起，指向同一个判断：AI的能力需求按月迭代，物理基础设施按年建设，剪刀差正在形成。
• AI公司正在失去定义自己边界的能力：OpenAI主动送5%股权，Anthropic被五角大楼逼拆护栏。看似截然不同的选择，底层逻辑一样：AI公司的独立性窗口正在关闭。互联网公司走了二十年的路，AI只用了四年。
• AI的账单到了：花旗限制旗舰模型、扎克伯格承认Agent不如预期、谷歌用电量超新西兰——三条新闻串起同一个转折：从不计代价追求能力到在成本约束下找最优解。免费午餐阶段结束了。