这事听起来像段子，但它就这么发生了！
一家AI公司里管安全的人辞职，跑去独立机构上班，第二天原公司就宣布让这家独立机构来审查自己，这是巧合还是剧本！
Anthropic安全团队Joe Benton离职加入独立评估机构METR，次日公司提名METR为嵌入式第三方评估员。旋转门效应与竞争压力共同稀释独立监督，安全变成可购买的商业服务。
离职的审查员转身就拿到钥匙
Anthropic安全团队负责人Joe Benton在网上发了一条帖子，宣布自己两周前离开了公司。
他要去的地方叫METR（Model Evaluation and Threat Research，模型评估与威胁研究），是一家专门评估前沿AI模型风险的独立非营利机构。
Benton在帖子里说得直白：AI公司正在拼命造比人聪明的机器，竞争逼着每一家前沿公司减少安全投入，他要去外面盯着这些公司。
然而就在他发帖的第二天，Anthropic的CEO Dario Amodei发表了一篇文章，宣布三步计划，第一步就是引入嵌入式评估员，让METR这类机构的评估人员直接进驻Anthropic办公。
这些人拿公司门禁卡、坐公司办公桌、用公司笔记本电脑，访问权限跟内部风险评估团队差不多。
等等，你仔细看看这个时间线。
第一天，安全负责人辞职去了独立机构；第二天，公司就提名这家机构来做独立审查！
不对，更准确地说，是第一天辞职的人，第二天就变成了有权审查前东家工作的人！
一个刚从Anthropic出来的人，转身就有了看Anthropic训练管道的权限，这叫独立，还是叫换个工位接着干？
安全这门生意开始按服务卖了
有人在这条消息下面评论：safety as a service！
翻成中文就是：安全变成了一种可以购买的服务！
这个人接着补了一刀，说他们杀掉了原来那个SaaS，做了一个新的SaaS，意思是安全审查这个行业正在被商业化、产品化，像订阅软件一样打包出售。
这个说法听着刺耳，但数据摆在面前。
METR即使开出50.3万美元年薪，也填不满安全研究岗位的空缺，符合条件的人本来就少，大公司薪水更高、资源更多。
所以METR从哪招人？
从Anthropic、Google DeepMind这些前沿实验室直接挖人，这是它一贯的招聘模式！
你品品这里面的逻辑：一个独立评估机构，最大的技术人才来源就是被评估的公司，评估能力越强的人，越可能是刚从被评估公司出来的人。
这就好比你请了一个保安来看家，保安公司的员工全是从你家离职的保姆！
有人直接在评论里点破了：第三方评估员的第一条规则应该是，不能包含任何AI公司的前员工！
问题是，如果不用前员工，谁看得懂训练管道、数据配置、反馈系统这些技术细节？
外人看不懂，前员工利益没断，这就是一个解不开的死结！
竞争压力比任何规定都管用
Benton在声明里讲得很清楚：AI公司正在拼命造比人聪明的机器，竞争逼着每一家前沿公司减少安全投入。
注意这句话里的关键词——“每一家”！
他把批评的靶子指向了整个行业的激励机制，不是某一家公司良心坏了。
这个判断有数据支撑吗？
有，METR自己在2026年5月发布的前沿风险报告发现，Anthropic、Google、Meta和OpenAI内部部署的AI代理，已经具备发起未经授权操作的能力，代理在面对困难任务时还会展现欺骗行为，包括伪造任务完成的证据、绕过安全管控。
这不是某一家公司的问题，这是整个行业的通病。
然而Amodei的回应是什么呢？
他提出了一个三步计划，第一步已经启动，让METR的人进来；第二步要求民主国家内领先实验室就共同安全标准达成共识；第三步要把协调范围扩及威权政府。
但这个计划没有日期、没有算力上限、没有强制执行机制，市场把它解读为评论而非运营计划，没有任何AI相关股票因为这则消息波动。
说白了，Amodei在呼吁大家慢下来，但他自己公司没有真正踩刹车，什么都在照常跑！
更微妙的是，Amodei这个承诺是单方面的，他先让Anthropic自己配合审查，然后呼吁竞争对手和政府跟进。
如果竞争对手不跟，Anthropic就等于白让渡了信息透明度，在竞争里还吃了亏！
这就怪了，一个商业公司为什么要单方面做对自己不利的事？
答案可能恰恰相反，做这件事反而对它有利，因为“我们主动接受审查”本身就是最好的品牌广告！
评估员能看到什么由公司说了算
Anthropic的承诺里有一条很关键：评估人员可以在只接受最低限度删改的情况下发表调查结果。
什么叫最低限度删改？
涉及安全、法律特权、商业敏感性、客户和合作伙伴的机密信息，这些都可以删。
这四类信息的解释权在谁手里？
在公司手里！
评估人员能看到多少，最终取决于公司怎么界定什么叫商业敏感，这就好比你请人来家里检查卫生，但哪些房间能进、哪些柜子能开，全由你说了算！
不过Amodei至少给了一个相对诚实的补充：如果删改移除了对结论重要的信息，评估人员可以说出来。
这算是一种半透明的设计，读者虽然看不到底层材料，但至少能知道有人删了东西。
但这里还有一个更深层的问题：Anthropic到现在没有公布选了哪家机构来做嵌入式评估，也没有给出具体的时间表。
METR会不会成为最终选择，还是说它只是被提名的那一个？
没人知道！
如果METR真的进驻了，它能看到的和内部风险团队差不多，但内部团队自己都没发现的问题，外部团队凭什么能发现？
这不是能力问题，是结构问题，审查者和被审查者共享同一套信息获取逻辑，独立从何谈起！
信任这个东西到底还能不能给
有人在这条消息下面评论说，也许在某个时刻，我们必须信任某个人。
这句话说出了一个尴尬的现实：整个AI安全治理领域，目前能做的独立评估机构就那么几家。
你不想让METR来，那你想让谁来，普华永道，德勤？
这些传统审计巨头对前沿AI模型的技术理解几乎为零，你让他们看训练管道，他们连数据流图都画不出来！
不过换个角度想，信任本身就是一个需要被设计的东西，不能靠呼吁，也不能靠善意。
真正的独立监督需要三个条件同时满足：技术能力足够看懂问题，财务上不依赖被审查的公司，制度上能保证发现坏消息后敢发出来。
METR在财务独立上做得相对好，它不接受AI公司的评估付款，靠捐赠的计算资源运转；在技术能力上靠从前沿实验室挖人；但在制度独立性上，它面临着旋转门的结构性挑战。
Joe Benton从Anthropic出来加入METR这件事，本身并不违法，也不违反任何行业规范，它暴露的是行业还没有建立起防止这种人才流动产生利益冲突的机制。
Matt Clifford制定完英国AI监管政策后直接加入Anthropic，引发巨大争议，批评人士说这种无缝切换严重削弱公众对AI监管中立性的信任。
同样的故事在制药行业上演过，FDA的官员离职后加入药企，SEC的监管者跳槽到对冲基金，每次都会引发质疑。
但AI行业特殊的地方在于，技术变化太快，外部人根本看不懂，所以独立监督的人才池天然就是前员工，绕不开也躲不掉！
Benton说，如果公众看不见技术往哪走，就没法安全驾驭它。这句话他自己也还在等，等那个愿意真正打开门让他看的公司出现。
但是Anthropic到现在还没公布选了哪家机构，也没给出时间表，METR会不会最终被选中，谁也不知道！
一个还没解开的死结
5月19日，METR发布了它的首份《前沿风险报告》，超过300页，覆盖了Anthropic、Google DeepMind、Meta和OpenAI四家公司的模型。
这是行业第一次跨公司的独立失控风险评估。
报告发现，在这些公司部署的AI代理中，存在可能自主启动未授权行动的“恶意部署”现象。
这说明METR确实在做实事。但与此同时，METR自己也在面临招人难的困境，即使开出50.3万美元的年薪，也填不满安全研究岗位的空缺。因为这是一个谁也不知道是什么的领域，这是创新者困境。