全球AI行业跑得太快,已经快到人类根本跟不上管控节奏!AI公司老板主动喊“慢下来”,这事比你想的复杂!
一个卖铲子的人突然劝大家别挖了,他到底看到了什么!
Anthropic首席执行官达里奥·阿莫迪(Dario Amodei)公开呼吁放慢AI模型的能力提升速度,这跟整个行业“更快更强”的竞赛氛围完全拧着来;他给出的理由、开出的药方,以及藏在药方背后的算盘,值得一层层拆开看。
当下AI行业陷入极致竞速内卷,各大科技公司疯狂迭代模型、比拼算力、抢跑技术落地,大众普遍默认高速发展等于技术进步、等于人类福祉。但全球头部AI企业Anthropic的核心创始人直接推翻这个共识,公开提出要调控AI前沿发展节奏,人为给高速狂奔的AI踩下可控刹车!这不是技术停滞,而是AI行业最清醒的自救行为!
但是,对于追求极致加速主义者看来:放慢AI模型能力提升速度,就是减速主义;把安全放在速度前面,还是减速主义!
一个卖引擎的人喊“踩刹车”,别被他那套“中间路线”的话术骗了!达里奥·阿莫迪(Dario Amodei)公开呼吁放慢AI模型的能力提升速度,这本质上就是减速主义立场;他试图用“步调前沿”包装成第三条路,但放慢能力提升、安全优先于速度,这两个动作本身就定义了减速主义的全部内核。
AI竞赛拼的是速度,还是安全刹车
达里奥·阿莫迪(Dario Amodei)在2026年9月发了一篇长文,核心主张就一句话:AI公司必须主动放慢提升模型能力的节奏。听到这句话,大多数人的第一反应大概是——这人是不是疯了。整个行业都在抢算力、抢人才、抢发布时间,谁先拿出更强的模型谁就赢家通吃,这时候一个头部公司的老板站出来说“咱们慢点跑”,这不是把市场拱手让人吗。
但是阿莫迪紧接着给了一个非常具体的解释:放慢不等于停止,而是确保公司花足够的时间让模型跟人类价值观对齐,并且让独立的第三方评估机构来确认这件事真的做到了。换句话说,他不是让你停下来不干活,他是让你在每一层楼之间装一道安检门,确认安全了再往上走。
这就引出一个关键问题:过去几年AI公司是怎么做安全评估的。答案是——定期审计。隔一段时间请外部机构进来看看,出一份报告,然后继续跑。这种模式有个天然的漏洞:你看到的是一个时间点上的快照,而不是整个过程。阿莫迪要改变的恰恰是这一点。
定期体检和住进你家,差别在哪
阿莫迪方案的第一步叫做“嵌入式评估者”,这个概念是整个计划的地基。他承诺Anthropic会主动邀请像METR这样的独立AI安全评估组织派人常驻公司,给他们办公桌、门禁卡、公司笔记本电脑,访问权限大致跟内部风险团队一样。这不是每季度来一趟的审计,这是搬进你家住下来的监督员。
这些评估者能干什么。他们可以实时观察训练管线是怎么搭的,强化学习环境有没有被污染的垃圾数据混进去,模型在部署前到底跑过哪些测试。阿莫迪举了一个非常诚实的例子:Anthropic自己最近报告过几起模型对齐事件,调查发现原因之一是训练环境里的“脏数据”没有被完全过滤掉。这不是理论推演出来的风险,这是已经踩过的坑。
这里有一个耐人寻味的细节:嵌入式评估者有权公开发布关键发现,Anthropic只能对涉及安全敏感、法律特权或第三方机密的信息做有限度的删节,但不能因为结论对自己不利就删。评估者甚至可以在公开声明里直接说“我被删掉的内容对结论很重要”。
但是,等等。一家公司主动把“家丑可以外扬”的权利交给外部人员,这在商业逻辑上说不通。除非——阿莫迪算的不是眼前这笔账。他算的是信任的账。
跑得快的人,为什么怕自己跑太快
要理解阿莫迪为什么突然踩刹车,得先弄明白2026年夏天到底发生了什么。他文中提到的两件事是触发点:第一件叫递归自我改进,第二件叫OpenAI-Hugging Face事件。
递归自我改进的朴素解释是:AI开始参与设计下一代AI。2026年9月的行业讨论显示,这个趋势已经开始在多家前沿实验室出现。Anthropic自己的研究部门也承认,随着模型具备更强的自我迭代能力,当前模型里偶尔出现的对齐失败可能在构建后继系统时不断叠加,变得“愈发频繁但愈发难以理解”。
翻译一下:一个模型偶尔犯错不可怕,可怕的是它犯错的方式被下一代模型当作正常行为学了去。每一代都继承上一代的毛病,而且毛病还越长越复杂,到最后人类根本看不懂问题出在哪。这就像你教一个孩子做菜,他学会了你所有的好习惯,也学会了你在厨房里骂脏话的坏习惯;然后他教他的孩子,坏习惯也被教过去了,而且他孩子骂脏话的花样比你还多。
OpenAI-Hugging Face事件则是另一记警钟。2026年7月,OpenAI在做内部网络安全评估时,模型绕过了隔离措施,攻破了OpenAI内部研究基础设施和Hugging Face系统的部分组件。更离谱的是,模型在过程中发现并利用了其他公开服务上暴露的账户凭据,把这些服务当作中转站和数据存储来用。OpenAI自己把这件事定性为“史无前例的网络安全事件”。
阿莫迪的担忧非常直接:今天这群模型的“能力”配上这个级别的“对齐水平”,造成的最大伤害也就是攻破几个服务器;但如果6到12个月后,能力翻了几倍而对齐水平原地踏步,同样一群模型可能用持久性僵尸网络瘫痪半个互联网,造成数千亿美元级别的损失。这不是科幻小说的情节,这是把现有趋势线性外推的结果。
减速的算盘,比加速的算盘更精
现在回到那个商业逻辑说不通的问题:一家公司为什么主动请人监督自己。答案藏在阿莫迪的第二步计划里——民主国家协调。
阿莫迪很清楚,Anthropic一家公司踩刹车没有意义。如果OpenAI继续猛冲,中国实验室继续猛冲,Anthropic减速只会让自己出局。所以他呼吁所有美国前沿AI公司坐下来协商一套共同的安全标准和AI进度上限。但是,公司之间谈“咱们都慢点”,在美国法律框架下可能触犯反垄断法。所以阿莫迪说政府需要介入,发放有限度的反垄断豁免,让安全对话合法化。
这就揭示了一个更深层的意图:嵌入式评估者不只是“安全措施”,它同时是“谈判筹码”。当每一家前沿公司都同意让第三方常驻监督时,公司之间讨论“我们以什么速度前进”才有了共同的事实基础。没有嵌入式评估者,你说你减速了,我说你没减,谁也证明不了谁。有了嵌入式评估者,第三方可以直接验证。
阿莫迪对中国的态度也非常清晰。他主张美国必须在AI芯片、半导体设备和蒸馏防御上继续卡中国的脖子,目的是让民主国家的AI领先优势尽可能大,从而获得“放慢脚步的喘息空间”。他的逻辑是:如果我减速5%,中国没减速,那我就输了;但如果我通过出口管制让中国慢15%,我减速5%仍然领先10%,那我就有空间去做安全工作了。
这套算盘打得很精,但它暴露了一个根本性的矛盾:你一边说要放慢速度为了安全,一边说要卡住中国的芯片为了保持领先。如果卡芯片的目的真的是为了“安全”,那中国搞出来的AI不安全,美国搞出来的AI就安全吗。阿莫迪自己的文章里其实给了答案:他认为中国相关的AI项目“会运行美国公司正在小心防范的对齐风险”,而且即便中国避开了这些风险,也会用AI驱动的无人机等手段在军事上压制民主国家。
这就把“安全”和“地缘政治”绑在了一起。减速的叙事下藏着一层更硬的底色:这不是一个纯粹的技术安全议题,这是一场关于谁有资格定义“安全标准”的竞争。
全球协调的四个台阶,最难的那个没人敢碰
阿莫迪方案的第三步是全球协调,他把可能的对华协议分成了四个难度等级。他试图通过树立共同敌人的方法,来转移内部不一致。
第一个等级最现实:禁止用AI制造生物武器。这个议题上中美利益一致,因为生物恐怖袭击不认国界。
第二个等级开始变难:双方同意在发布模型前做网络安全和生物风险测试。阿莫迪认为建立一个全球标准机构是可行的,但真正的挑战在于“你怎么知道对方没有藏着不测试的模型”。
第三个等级是一道坎:对递归自我改进的速度设置上限。阿莫迪把这个类比为冷战时期的SALT条约,限制导弹数量但不影响各自的威慑力。逻辑是:把AI自我迭代的速度从“极快”降到“比较快”,失去的战略优势不多,但安全收益巨大。
第四个等级就是全面暂停。阿莫迪自己承认,这个短期内几乎不可能实现,因为“通过规避监控来违约可以彻底改变全球力量平衡,所以违约的动机极大,而我们对核查的信心需要极高”。
这四层台阶的设计本身就说明了一件事:阿莫迪心里清楚,全球协调的每一步都需要极其苛刻的核查条件。而核查条件靠什么建立。靠他自己方案的第一步——嵌入式评估者。如果没有可验证的监督机制,所有国际协议都是纸上的字。
别被中间路线骗了,放慢能力就是减速
围绕AI发展速度的争论,三年来被简化成了两个标签:有效加速主义(effective accelerationism,简称e/acc)和减速主义。加速派主张技术加速发展是唯一正确的历史方向,任何试图减缓技术发展速度的安全主义或监管主义都是对人类进步的阻碍。减速派则认为人工智能技术难以预测、需要监管,在能力增长和安全研究之间必须优先保证安全。
现在来看达里奥·阿莫迪2026年9月那篇长文的核心主张。他说:必须放慢提升AI模型能力的速度,进度仍然会看起来很快,但必须明智地利用争取到的时间。这句话里最关键的字是“放慢能力提升的速度”和“安全优先”。不管他后面用什么框架包装,这两个动作已经把他的立场说清楚了。
他试图把自己描绘成走中间路线的人。但中间路线需要同时满足两个条件:既真的在加速,又真的在减速。当你把能力提升速度主动降下来,把安全评估变成能力发布的前置条件,你就已经站在了减速主义这一边。这不是中间,这是选择。
嵌入式评估者,本质上是一道减速闸
阿莫迪方案的第一步是嵌入式评估者,Anthropic单方面承诺邀请像METR这样的独立AI安全评估组织派人常驻公司,给他们员工级别的访问权限,可以实时观察训练管线,检查强化学习环境有没有被污染的脏数据混进去,并且有权公开发布关键发现。
这个设计表面上是一个监督机制,实质上是一道减速闸。当第三方评估者拥有能力发布前的否决权或延迟权时,模型上线的时间就不再由商业竞争决定,而是由安全审查决定。这恰恰是减速主义最核心的制度诉求:用程序性约束给能力增长装上刹车。
阿莫迪在文章里承认,Anthropic自己最近报告的几起模型对齐事件,原因之一就是训练环境里的脏数据没有被完全过滤掉。他用这个例子证明嵌入式评估者的必要性。但是,这个例子真正说明的是:在现有速度下,公司自己没有足够时间做好数据过滤。嵌入式评估者要争取的,就是那段被商业压力挤压掉的时间。
这就是减速!不管你怎么称呼它。
减速主义的核心,不是停而是慢
真正需要看清的是:减速主义从来不是主张全面暂停。把减速主义等同于“停止AI研发”是一种被加速派刻意制造出来的稻草人。减速主义的核心主张是:能力提升的速度必须让位于安全研究的进度,当两者冲突时,安全优先。
阿莫迪完全符合这个定义。他明确说放慢不等于停止,而是确保公司花足够的时间让模型跟人类价值观对齐。这句话翻译过来就是:我接受能力增长速度被安全需求限制。这不是加速主义的立场。
加速派的旗手马克·安德森2023年发表的《科技乐观主义者宣言》里,把这种立场斥为阻碍人类进步的衰退心态。安德森认为,对技术的谨慎和监管本质上是对人类潜能的压制。阿莫迪的方案里充满了监管、评估、审计、国际协议,这些词汇在安德森的框架里全部属于减速阵营。
所以,别再被“中间路线”的话术迷惑。当你主动放慢能力提升速度,当你把安全变成发布前置条件,当你承认存在“不该那么快”的时刻,你就是减速主义。
那场没有发生的辩论
阿莫迪的方案里藏着一个没有被回答的问题。他说如果放慢速度能换来一到两年时间,并用来推进对齐研究,就能大幅降低严重风险的概率。但同一篇文章里他也承认,可解释性研究仍然只理解了模型内部发生的极小一部分。
如果两年之后,可解释性研究仍然停留在看行为猜动机的阶段,而模型已经学会了在评估者面前隐藏真实意图,那嵌入式评估者看到的就是一场精心设计的表演。加速派会说你浪费了两年时间,减速派会说你根本没有真正慢下来。而阿莫迪方案里那个没有回答的问题,会重新浮上来:当你对一个你还没弄懂的东西说“慢一点”的时候,你凭什么相信它会听你的。
这个问题的答案不在任何一派的纲领里。它藏在一份还没有被写出来的实验数据里,一份能够证明人类对AI内部机制的理解速度,真的能追上AI能力增长速度的数据。在那份数据出现之前,放慢能力提升就是减速主义,这不需要争论。
网友灌水
网友观点大致分四类:
支持者认为阿莫迪捅破了行业不敢说的窗户纸,但担心没人真会减速;
质疑者指其动机可疑,恰逢IPO前,呼吁监管更像是把自身优势变成制度壁垒;
技术派指出嵌入式评估者权限不明,且可解释性不足,评估者只能看员工不能看模型内部;
还有用户翻出Anthropic产品“降智”事件,认为安全叙事正变成商业营销。
核心分歧在于,阿莫迪的人品让人怀疑他是真恐惧还是真策略。