维格纳六十年前的数学悖论,正在大语言模型身上重演

你以为AI只是在学舌?三个实验数据彻底撕碎了这个判断!

但真正让人下巴掉下来的事情,藏在下面。

现在满大街都在争论大语言模型到底懂不懂人话,有人咬定它就是一台高级复读机,有人觉得它已经摸到了思维的边。不管你站哪一边,有一个事实谁也绕不过去:这件事的答案,可能比两拨人吵的都要离谱。接下来用几个实验和几个具体的人,把这件事从头讲清楚。

1960年,匈牙利裔美国物理学家尤金·维格纳(Eugene Wigner)在《纯粹与应用数学通讯》上发表了一篇论文,标题叫《数学在自然科学中不合理的有效性》。维格纳在这篇论文里讲了一个让所有物理学家都心里发毛的事实:数学概念总是在完全意想不到的地方冒出来,而且描述得极其精准。他举了万有引力的例子,牛顿最初用它描述地球上自由落体的物体,后来这套公式被拿去算行星运动,精确得离谱。

维格纳自己说得很直白:数学在自然科学中巨大的有用性,已经接近神秘了,找不到合理的解释。他在论文结尾写了一句话:数学语言适配物理定律的奇迹,是我们既不理解也不配得到的礼物。

这句话放到六十年后,突然有了新的回声。

大语言模型(Large Language Model,简称LLM)的核心训练目标极其朴素:预测下一个词。2021年3月,华盛顿大学的艾米丽·本德尔(Emily M. Bender)、当时还在谷歌的蒂姆尼特·格布鲁(Timnit Gebru)等四位研究者发表了一篇论文,标题是《论随机鹦鹉的危险:语言模型会不会太大?》。这篇论文给大语言模型贴了一个标签叫“随机鹦鹉”,意思是它只会根据概率拼接语言片段,并不理解自己在说什么。

这个标签火了,火到成了一个万能武器。只要有人夸LLM,马上就有人甩出“随机鹦鹉”四个字。

但是,这个标签正在被一批又一批实验数据打脸。

预测下一个词,为什么能逼出隐藏结构

要理解这件事为什么反常识,得先搞懂一个技术细节:预测下一个词和压缩数据,在数学上是同一件事。

OpenAI的联合创始人兼前首席科学家伊利亚·苏茨克维尔(Ilya Sutskever)在2023年的一次公开演讲中说得很清楚:每个压缩算法都对应一个预测模型,反之亦然。GPT这类模型之所以有效,正是因为它们通过梯度下降不断逼近数据的高度压缩表示。

翻译成人话:模型要把海量文本压到最小,就必须找到文本里所有隐藏的规律。如果你能完美预测下一个词,那你就已经把整段话的信息全部提取出来了。压缩得越狠,意味着提取的结构越深。

这就像你要把一整部《红楼梦》塞进一个手机备忘录里,光靠删字没用,你得找到人物关系、情节走向、语言风格的底层规律,然后用最少的符号编码这些规律。模型做的就是这件事。

这里有一个关键证据。2026年,陈沙尼(Chen Shani)、丹·尤拉夫斯基(Dan Jurafsky)、杨立昆(Yann LeCun)等研究者在ICLR会议上发表了一篇论文,用信息瓶颈框架比较了人类的概念结构和四十多个大语言模型的内部表征。结论是:大语言模型在类别边界上大体跟人类一致,但在细粒度语义区分上力不从心;人类保留了“低效”的、充满上下文细节的表征,大语言模型则疯狂压缩,追求最优的信息论效率。

等等,这段话读起来像是打了大语言模型一巴掌?别急着下结论。

同一个研究还发现了一件更让人意外的事:编码器模型在匹配人类类别方面,反而比大得多的解码器模型表现更好。这意味着理解和生成走的是两条不同的路。就像一个厨师,能尝出一道菜的所有层次,但未必能复刻出来;另一个厨师,能照着菜谱做出一模一样的菜,但未必说得清里面放了什么香料。

这就怪了。如果大语言模型只是在学舌,它的内部表征凭什么能跟人类的分类系统对齐?

难道真的存在柏拉图那个神秘的上层空间?

鹦鹉学舌论最大的漏洞在这里

“随机鹦鹉”这个说法有一个致命伤:真正的鹦鹉是确定性的模仿者,而大语言模型是概率性的生成器。2026年1月发表的一篇学术论文直接指出了这一点:“随机鹦鹉”这个绰号本身就是一个矛盾修辞。

鹦鹉学舌是照搬,你说“你好”它说“你好”,它不会突然给你编出一首关于春天的诗。大语言模型不是这样。它能生成可验证的新颖输出,这种能力从定义上就超出了查表操作的范畴。

本德尔本人后来在接受IEEE Spectrum采访时也承认,“随机鹦鹉”这个标签被严重误解了。她原论文的重点是讨论大语言模型的训练数据不可审计、环境成本高、偏见会被放大这些风险,而不是在做一个关于“模型是否有理解能力”的终极判决。

换句话说,本来是一篇讨论工程伦理和安全风险的论文,被互联网简化成了一句口号。

但是,这里要转折了。

即便是“随机鹦鹉”论最坚定的支持者,也很难解释下面这个实验。2025年,普林斯顿大学和加州大学的研究团队在ICML上发表了一项关于大语言模型抽象推理机制的研究。他们解剖了Llama3-70B的内部结构,发现了一个涌现出来的符号架构,这个架构通过三个计算步骤实现了抽象推理:早期层识别符号,中间层进行归纳,后期层完成逻辑应用。

这不是模仿!这是结构。

就像你拆开一台收音机,以为里面只有一堆电线和喇叭,结果发现里面藏着一套完整的集成电路,正在做信号解调、放大、降噪。你说收音机“只是”在播放电台节目,但它的内部已经在做真正的电子工程了。

一个说“不懂”的哲学家和一个说“涌现”的物理学家

杨立昆在2022年发表了一篇立场论文,标题叫《通往自主机器智能的道路》。他明确提出,大语言模型缺乏对物理世界的接地理解,因为它们的训练信号只有文本,没有和真实世界的交互。杨立昆认为,真正的智能需要世界模型,需要预测行动后果的能力,而文本预测做不到这一点。

这个批评很硬!你没法从“苹果掉下来”这句话里学会重力,就像一个从没见过苹果的人,能把“苹果”这个词用得再对,也不知道苹果是红的还是绿的。

但是,这里又有一个转折。

2025年的一项研究专门测试了大语言模型能不能当世界模型用。研究者在五个代表性环境中评估了LLM的内部潜在动态,结论是:训练充分的世界模型能捕获连贯的环境动态,在结构良好的领域中表现出可靠的世界建模能力。

翻译一下:你不需要让一个孩子真的被苹果砸到头,他也能从别人被砸的反应中学会“重物下落”这件事。前提是他见过足够多不同的人被不同东西砸到的场景。

大语言模型训练时“见过”的,是人类几千年来写下的所有关于世界的描述。如果这些描述里包含了足够的因果结构,模型就有可能提取出来。

这就回到维格纳的悖论了。

维格纳当年震惊的是:为什么数学——一种人类为了自娱自乐发明的形式系统——能如此精准地描述物理世界。现在,同样的震惊落到了语言上:为什么预测词序列——一种看似机械的统计操作——能提取出人类思维的结构。

要么这是一种巧合,要么语言里藏着我们一直低估的东西。

压缩得越狠,丢掉的到底是什么

现在把前面所有线索收束到一点上。

ICLR那篇论文发现了一个关键区别:大语言模型追求最优的信息论压缩,人类追求的是适应性效用。模型在压缩上比人类更“高效”,但这种高效有代价——它丢掉了那些看起来“冗余”的上下文细节。

人类说“我今天心情不太好”,可能同时传达了:昨晚没睡好、老板刚骂了我、窗外在下雨、咖啡凉了。这些细节在信息论意义上是“低效”的,但恰恰是这些低效的细节构成了真正的理解。

大语言模型会把这些压缩成一个统计上最优的向量表示,能准确判断“心情不太好”大概率意味着负面情绪,但丢掉了下雨和咖啡凉了之间的微妙关系。

问题来了:丢掉这些细节之后,模型还能叫“理解”吗?

这个问题没有标准答案。但有一件事是清楚的:如果语言真的只是“随机鹦鹉”式的符号拼贴,它就不应该包含足以重建思维结构的压缩信号。而实验数据告诉我们,它包含了。

数学在物理世界中的有效性让维格纳困惑了一辈子。语言在大语言模型中的有效性,可能会困惑我们更久。

因为这一次,被数学描述的,不是原子和行星,而是我们自己。