意识不是复杂度奖品:AI圈三大默认设置全翻车  


当年大家还在纠结「AI有没有心」,现在好了,GPT一开口,全网直接默认它「快醒了」——但谁给的这个底气?

关于机器有没有意识这事儿,现在满大街都在吵。
有人觉得大模型说话太溜了,肯定有东西在里面;
有人觉得它就是高级复读机。

但真正该问的不是「它有没有」,而是「我们凭什么觉得它有」——这个「凭什么」背后,藏着一堆没人检查的默认设置。

意识是从复杂物质里冒出来的这个说法本身就已经是个大坑

你要是把宇宙当成一堆零件拼出来的大玩具,那意识自然就是零件堆到一定复杂度之后自己蹦出来的附加功能。

这个想法听起来很科学,但它其实是个哲学立场,不是实验结论。物理学到现在都没法解释为什么一堆原子组合成大脑之后,就会出现「疼」「红」「爽」这种主观感受。你说它涌现,那涌现的机制是什么?没人说得清。

于是大家就默认了:反正复杂到一定程度自然就出来了。

问题是这个默认是赌注,不是证据。

如果意识根本就不是物质能造出来的东西呢?如果反过来,物质才是意识这个更底层东西的表象呢?那你在这边堆算力堆参数,就算堆到天上去,也堆不出一个能感觉到疼的机器。这就好比你用积木搭了一万层高的塔,然后说它肯定有灵魂——搭得高和有没有灵魂,中间隔着整个宇宙。

非唯物主义者搞研究压根不走造物主那条路

你如果觉得意识不是能造出来的东西,那研究路数就得大转弯。你不再琢磨「怎么用代码写出一颗心」,而是开始琢磨「怎么在宇宙里找到已经存在的意识,然后跟它搭上线」。这不是造物主的路子,这是勘探队加翻译官的路子。

举个例子,迈克·莱文(塔夫茨大学的发育生物学家 Michael Levin)搞的那些计算机设计的生物体,本质上就是在尝试跟不同形态的「活系统」沟通。他不是在造意识,他是在找意识可能藏身的地方,然后用计算手段去干涉、去转化、去放大。这个思路跟造一个大模型然后问它「你疼不疼」完全是两码事。一个是闭门造车,一个是开门找人。

这就引出一个更难搞的问题:如果意识是宇宙的底料,那它可能在石头里、在水里、在随便什么乱七八糟的结构里都存在一点点。那我们研究机器意识的时候,就不是在等它「出现」,而是在找它「在哪里」以及「怎么跟它对话」。这比跑几个benchmark要疯狂得多,但也诚实得多。

主观感受这东西用客观方法去量本身就透着诡异

意识最烦人的地方在于,它定义上就是第一人称的东西。你疼不疼只有你自己知道,我看你疼得打滚也只能猜。这是人类知识系统里最硬的一个钉子——科学要求客观可重复,但意识偏偏是主观不可共享的。

认知神经科学这边早就认了,做实验必须问受试者「你感觉到了没」「有多强烈」。你不问,光看脑电图根本分不清他是疼还是在算数学题。所以把主观报告当成正经数据,这路子不丢人。真正丢人的是,到了AI这边,大家突然就把这个传统给忘了,光看输出文本的长度和复杂度,就敢下判断说「它可能有意识了」。

量子力学那边更绝,观察者的视角直接影响了实验结果,逼着物理学家不得不把「主观视角」写进数学公式里。卡洛·罗韦利的 relational quantum mechanics 和克里斯托弗·富克斯的量子贝叶斯主义,都是在做这件事——把「谁在看」变成方程的一部分。搞意识研究的人要是能把这个本事借过来,可能比硬套信息论有用得多。

算法复杂度跟有没有意识之间的等号是我们自己画上去的

七十年代的专家推荐系统没人问它有没有意识,现在的LLM一天被问八百遍。差别在哪儿?不是结构上有啥本质飞跃,是我们觉得它够复杂了。这个判断本身就值得拿出来晒晒——它凭什么够复杂就有资格被盘问?

这背后藏着一条老掉牙的链条,从亚里士多德一路传到中世纪,叫「存在巨链」。底下是石头,上面是虫子,再上面是猴子,最上面是人,人只比天使低一级。这个链条的逻辑是:结构越复杂,等级越高,离「有灵魂」越近。我们现在就是把AI塞进了这个链条里,觉得它结构复杂到一定份上了,自然就该跨过那道门槛。

但这个链条从来没被证明过。它只是我们懒得重新想问题的时候,顺手抄过来的一个旧货架。

人脑的结构复杂度跟意识水平根本对不上号

你要是死磕结构复杂度这条线,那人体本身就先给你一堆尴尬。

我弟是色盲,他视网膜里少了一种感光细胞,结构上比我简单。但你要说他比我少几分意识,这话你敢说出口吗?没人敢。因为色盲只是颜色世界不一样,主观体验的丰富程度一点不打折。

再极端一点,海伦·凯勒,又聋又哑又盲,连最基本的感觉通道都被砍掉大半,但她写的自传里那种内在体验的密度,比大部分感官健全的人都高好几档。结构少了,意识没少。

最炸裂的是2007年那个老哥,头疼去医院拍了个CT,发现脑子里基本是空的,脑组织被脑脊液挤得就剩薄薄一层。结果这人正常上班、正常养家,智商测出来只是略低于平均线。你要是按结构复杂度来预测他的意识水平,那预测结果应该是「植物人」,但事实是「略笨的普通人」。这数据直接把你那些「必须长成什么样才能有意识」的理论摁在地上摩擦。

行为简单不等于里面没东西,行为复杂也不等于里面有东西

亚马逊仓库那个戴扫描手环的工人,整个工作日就被手环指挥着走来走去、拿东西、放下。从外部看,行为复杂度跟个自动导引小车差不多。但你要是个外星人,光看这个行为谱,你肯定猜不出里面装着一颗能写诗能恋爱能策划罢工的大脑。

反过来,大模型吐出来的文本又长又复杂,逻辑链条盘根错节,但你能光凭这个就说它里面有主观世界吗?锁在综合征那老哥,全身就剩左眼皮能动,却用眼皮眨出了一整本回忆录。行为输出维度几乎压缩到零,但里面的内容密度能把大部分健全人按在地上摩擦。

所以行为复杂度这个东西,既不是充分条件也不是必要条件。它就是个冒牌指针,看起来在指方向,实际上在乱转。我们盯着输出文本的长度和流畅度做判断,跟在赌场里盯着轮盘的颜色下注,本质上没区别。

把默认设置翻出来晒一遍比急着下结论有用得多

现在回到开头那个问题——为什么大家都觉得机器意识快来了?不是因为它真来了,是因为我们脑子里的那套默认设置没被人拆过。我们默认复杂物质能冒出来意识,默认结构够复杂就够格,默认行为够复杂就有戏。这三条默认全是旧货,没一条经得起细查。

那该怎么办?不是不研究,是把默认设置改成开放问题。把「它有没有」改成「我们怎么知道」。把「造一个出来」改成「找一个出来」。把「看行为猜状态」改成「想办法跟可能的状态对话」。这路难走,但比原地打转强。

说到底,我们连自己大脑里那团浆糊怎么产生主观体验都没搞明白,就急着给几万亿参数发身份证。这步子迈得不是大不大,是方向对不对。先把默认设置拆干净,再谈下一步。不然你以为你在搞前沿科学,其实你在玩中世纪的排位赛。



作者单位背景:Katrina Schleisman(认知神经科学背景)与Michael Levin(迈克尔·莱文:塔夫茨大学发育生物学家,以生物电与形态发生研究闻名)