2026年8月16日，一条推文引爆了AI圈的技术暗线，评论区里研究者们围绕一个核心矛盾吵翻了天：智能体到底该“压缩”记忆，还是该“递归”索引？
这场争论指向一个反常识的判断——Transformer的注意力机制，可能才是限制AI真正持续学习的最大瓶颈。而真正的解法，藏在RNN和RLM的夹缝里。
2026年，AI领域最令人不安的实验结果，来自Prime Intellect的一次大规模开放研究。他们让100多个自主智能体，在8×H200的算力集群上，连续跑了整整8天，迭代优化nanoGPT的训练流程。最好的那个智能体，把人类花费数月才建立的记录，追上了82%。
等等！这个实验暴露了一个致命问题——智能体跑得越久，“忘记”的东西就越多。不是算力不够，不是模型太小，而是那个被整个行业奉为圭臬的注意力机制，在长周期任务中，正在变成一副枷锁。
注意力机制的神话，正在被递归戳破
Transformer架构的核心卖点，从2017年至今从未变过：注意力机制让模型能够“关注”输入中最重要的部分。Query、Key、Value这三条向量，构成了现代大模型的认知骨架。一个输入进来，模型通过Q和K的点积算出权重，再用V加权输出——这套KQV模式，被写进了每一篇论文、每一行框架代码。
但问题恰恰出在这里！
注意力机制有一个先天缺陷：它只能“看到”当前上下文窗口里的内容。窗口之外的东西，一概不知。为了塞进更多内容，研究者们疯狂扩大上下文长度——从2048到128K，再到1M、10M。向量数据库公司Chroma发布的技术报告正式为这种现象命名：“context rot”——上下文腐烂。
长上下文模型面临“注意力退化”：文本越长，注意力越分散；窗口越大，模型越抓不住重点。
这就怪了！
一个号称“注意力”的机制，居然在信息变多的时候反而“注意不到”关键信息。这就像一个人在嘈杂的菜市场里试图听清十米外朋友说的话——背景噪音越大，信号越弱。Transformer的注意力，本质上是个“被动接收器”：信息进来了才能看，进来了就改不了，改不了就得全部带着走。带着走的结果，就是上下文窗口越撑越大，注意力越来越稀薄。
RNN的“压缩”困局：闭卷考试考到后面全忘了
RNN（循环神经网络）的工作方式是：每读一个词，就把前面所有信息“压”成一个固定的隐藏状态，然后带着这个状态继续往下读。新信息进来，旧状态被覆盖，变成新状态。这个过程叫压缩——把长长的一段话，硬塞进一个固定大小的“记忆胶囊”里。
这就导致一个死结：压缩必有损失。前面读过的细节，一旦被压缩进状态里，就再也找不回来了。如果后面发现需要回溯某个细节——抱歉，状态里只有摘要，原文已经被丢掉了。
在智能体层面，这个“压缩-传递-覆盖”的死循环表现为：智能体每走一步，就把前面的经历压成一个摘要，带着摘要往前走，旧的细节全部扔掉。这就像一个人每天写日记，但每次写新日记时都把旧日记烧掉，只凭记忆写个梗概。时间一长，细节全没了。
目前业界针对长上下文的解决方案，最主流的就是这种“上下文压缩”——当上下文超出一定长度时，模型先对前面的内容做摘要，再继续处理新内容。这种方法简单直接，但摘要本身是有损的，早期出现的细节可能在压缩过程中丢失。这就是Prime Intellect实验里那些智能体跑到后面“忘记”前面方案的根本原因。
RLM的“递归”解法：开卷考试加可搜索索引
递归语言模型（RLM）不做一次性压缩。
它把任务拆成小块，递归调用自身去处理每一块，然后把处理结果存成新的变量或记录，放在一个可回溯的环境里。模型可以在任何时刻重新调用这些记录，就像在代码里反复引用之前的变量一样。
MIT的研究团队给RLM搭了一个可交互的Python编程环境——REPL。超长文本作为字符串变量存入这个环境，模型通过编写Python代码来操作这个变量，进行关键词筛选、局部探查、逻辑拆分。模型可以随时“翻回去”看之前处理过的任何一段，也可以“跳着看”只读自己需要的部分。
RLM把超长文本当成一个可搜索的数据库，按需查询，而不是硬塞进上下文窗口。
实验数据很能说明问题：
RLM的有效处理规模达到1000万Token级别，超出GPT-5等前沿模型原生上下文窗口两个数量级。在600万至1100万Token规模的BrowseComp-Plus多文档推理任务中，RLM（GPT-5）的正确率高达91.33%。在要求聚合成对信息、复杂度呈二次方增长的OOLONG-Pairs任务中，基础GPT-5的F1分数不足0.1%；采用RLM方案后，直接飙到58.00%。
RLM不修改模型架构、不升级模块设计，就能让GPT-5这类模型具备千万级Token的超长文本处理能力。关键在于：它把“注意力”这个动作从模型内部提升到了智能体决策层面。
智能体不是等输入进来了再算权重，而是在行动之前先判断：“我要不要看这一块？”“我该往哪个方向深挖？”“之前那个步骤有没有遗漏？”——先决定看什么，再去看。
这跟Transformer里的注意力机制（信息来了，被动算权重）完全是两回事。
但是，递归有个要命的副作用
有人抛出了一个让所有人沉默的观察：类比是成立的，但真正的分歧在于——压缩后的状态“无法重建”什么。
递归的本质是“不压缩”，但不压缩的代价是索引爆炸。RLM把所有子任务的输出都存成变量，变量越存越多，索引越建越庞杂。模型要在一个越来越大的“记忆仓库”里找到正确的信息，本身就成了一个新问题。
更麻烦的是审计问题。如果一个智能体走了一百步递归，每一步都产生新的中间变量，最后输出一个结果——你怎么知道这个结果是咋来的？
RLM的实验数据也暴露了这个问题。在95分位数这类高百分位区间，RLM的成本会出现明显飙升。因为RLM的推理过程是动态的，会根据任务复杂度自主决定代码编写、文本拆分和递归调用的次数，额外的步骤会增加API调用次数。
RNN的问题是记太多、抓不住重点，但记下来的东西是连续的状态流。RLM的问题是抓了重点、丢了细节的索引关系——每个中间结果都存了，但中间结果之间的因果链条可能断了。
两个方案，各有各的死法。
智能体级别的“循环”与“注意力”：差的那18%
Prime Intellect的实验跑了两周，消耗约1.4万小时H200算力。Codex和Claude Code两个智能体做了大约1万次实验。Opus最终以2930步打破了2990步的人类记录。
实验暴露了一个致命问题：智能体跑得越久，“忘记”的东西就越多。不是算力不够，不是模型太小，而是智能体的记忆管理方式决定了它能跑多远。
研究团队发现，智能体非常擅长优化器搜索、超参数扫描和方法的堆叠组合，但它们很难自己想出新点子，需要上游的人类记录才能持续改进。更值得注意的行为是：Opus反复停止并拒绝留在自主循环中，而Codex从不停止但可能卡在同一个超参数表面上磨蹭几个小时。
如果把RNN的“压缩”和RLM的“递归”都放到智能体这个尺度上看：
RNN式的压缩 = 智能体每走一步就把前面的经历压成摘要，带着摘要往前走。优点是状态大小固定、开销恒定。缺点是细节全丢了，出了问题没法回溯。
RLM式的递归 = 智能体每一步都把中间结果存下来，随时可以翻回去看。优点是细节全在、可审计。缺点是索引越建越庞大，找信息本身成了新问题。
差的那18%，就是“压缩多少”和“索引多细”之间的最优解还没找到。
Faraday的安静实验：把编码外包出去
Inherent Labs在8月14日发布了Faraday——一个27B参数的“AI科学家”。通过长视野强化学习训练，Faraday在论文复现任务上超过了Claude Opus 4.8和GPT-5.5。
Faraday在保留的AI-for-science任务上，比Claude Opus 4.8提升了60%。
这个实验的安静之处在于：Faraday不是靠更大的模型、更多的数据赢的。它靠的是“学会指导研究、外包编码”——把编码任务外包给专门的编码智能体，自己专注于更高层的科研推理。
这跟RLM的逻辑一模一样。
Faraday不试图自己记住所有细节。它把细节外包出去，自己只维护一个高层的“研究状态”——哪些假设被验证了、哪些方向值得追、哪些实验需要重做。这个高层状态是递归的、可更新的、可回溯的。
但Faraday的实验也暴露了一个矛盾：它超越的是Claude Opus 4.8和GPT-5.5这样的通用模型。如果对手换成同样采用递归架构的专用模型，结果会怎样？
没人测过。
这个“没测过”，就是那个让读者回不去的点。
Prime Intellect的实验跑了两周，追上了人类82%的进度。Faraday在保留任务上比Claude Opus 4.8提升了60%。RLM能把上下文推到千万级。RNN的压缩能把状态维持在恒定大小。
所有这些数字和概念，指向同一个方向，但没有任何一个给出了完整的答案：
“压缩”和“递归”之间，到底有没有一个最优的平衡点？
如果有，它长什么样？如果没，那智能体的记忆管理是不是注定要在“记不住”和“查不到”之间二选一？
这些问题，2026年8月16日没有答案。
而这恰恰是最让人无法回到“不知道”状态的地方——因为答案正在被100多个智能体、两周×1.4万小时H200的算力、27B参数的Faraday，以及无数条评论区里的争论，一点一点地挤出来。
差的那18%，正在被填上。
但填上之前，没有人知道填上去的是“压缩”还是“递归”。