你身边每一个聊人工智能的人，可能都在用三个词，但他们大概不知道这三个词根本不是一回事！
这篇文章要拆一件事：有效利他主义、加速派、末日派，这三个词被混在一起用，用着用着，就没人在乎它们到底在说什么了。有效利他主义、人工智能安全、理性主义社区，这三个关键词背后的故事，比你想象的乱得多。
一个词被三个圈子抢着用，谁都觉得自己才是正统
有效利他主义（Effective Altruism，以下简称EA）是一套做慈善和选职业的方法，不是一个人工智能阵营。
牛津大学哲学教授威廉·麦卡斯基尔（William MacAskill）在2011年前后把这套想法推了出来，核心主张用大白话说就是：别凭感觉做慈善，要算账，哪块钱能救最多的命就花在哪。它有三个衡量标准：规模，也就是能产生多少好处；可操作性，也就是你实际能做到什么；被忽视程度，也就是别人没在做的事。
这套逻辑催生了“给出你所能给出”（Giving What We Can），号召人们承诺捐出收入的至少10%，还催生了“80,000小时”这个职业咨询机构，告诉年轻人别去搞艺术了，去量化交易公司赚钱然后捐掉。
但EA从来不是铁板一块。它底下有一支叫“长期主义”的分支，开始担心人工智能可能灭绝人类，于是EA和人工智能安全运动产生了大量人员重叠。LessWrong是埃利泽·尤德科夫斯基（Eliezer Yudkowsky）2009年创立的理性主义在线社区，是末日派话语的主要温床，EA的很多人就是从那里来的。
所以第一个要掰清楚的事：EA是道德框架，LessWrong是社区来源，人工智能安全是政策领域。它们高度重叠，但不是同一个东西。
然而公众把它们全塞进了一个筐。
加速派的正式名字叫“有效加速主义”（effective accelerationism，简称e/acc），2022年5月由一个推特账号“贝夫·杰佐斯”（Beff Jezos）推广开来，这个网名调侃的是亚马逊创始人杰夫·贝佐斯。这个账号背后的人是纪尧姆·韦尔东（Guillaume Verdon），前谷歌量子机器学习研究员，后来创办了Extropic AI，做热力学计算芯片。e/acc的核心主张很简单：人工智能越快发展越好，监管是绊脚石。马克·安德森（Marc Andreessen）公开支持这套立场，把它称为“技术乐观主义的守护神”。
末日派的代表是尤德科夫斯基，他创办了机器智能研究所（MIRI），2025年出了一本书叫《如果任何人建造它，所有人都会死》（If Anyone Builds It, Everyone Dies），他在书里写：“如果地球上任何地方的任何公司或组织，用任何类似当前技术的方法，基于任何类似当前对人工智能的理解，建造出超级智能，那么地球上的每一个人，每一个地方，都会死。”
这就是三个词的全貌。但是如果你以为EA、加速派、末日派是三个可以互相辩论的阵营，那就上当了，因为它们的层级根本不一样。
一个加密货币骗子差点毁掉了一整套道德哲学
2022年之前，EA在圈外几乎没人知道，真正让它全球闻名的不是蚊帐和现金转移，而是一个叫山姆·班克曼-弗里德（Sam Bankman-Fried）的人。
这个年轻人曾是EA运动的招牌，公开说自己要“赚到无限多的钱然后全部捐出去”，他的加密货币交易所FTX估值一度冲到320亿美元。他雇了一大批EA信徒进公司，哪怕这些人根本不懂加密货币。他和麦卡斯基尔的渊源可以追溯到大约十年前的一次午餐，当时麦卡斯基尔向还是麻省理工学院学生的班克曼-弗里德解释了赚取大量财富的好处。
然后2022年11月，FTX在几天之内崩盘，客户的钱被挪用了，班克曼-弗里德在2023年被判盗窃数十亿美元罪名成立。
这就怪了，一套号称用数学和证据来最大化善的哲学，怎么培养出了一个把客户存款当自己小金库的骗子。
批评者的回答很尖锐。推上一名用户这样评价这起案件：“他们都认为，为人类尽最大努力去冒险是值得的……班克曼-弗里德认为他可以为世界做比其他人更多的事情，承担这种风险是他的责任，他说服了许多其他人与他结盟。”
但FTX的慈善团队辞职时发了一封公开信，措辞很重：“针对FTX的领导层可能参与欺骗或不诚实的行为，我们以最强烈的措辞谴责这种行为。我们相信，在这个世界上做一个好人意味着要做到努力、诚实和正直。”
事情到这里还没完。2026年人工智能行业取代了加密货币，成了EA的新金主，超过60名Anthropic的现员工和前员工公开承诺捐出至少10%的收入。而EA的核心方法论问题，量化偏差和系统性低估危害，一个都没解决。
安全团队一个接一个解散，但“安全”这个词越来越响
2023年7月，OpenAI高调宣布成立超级对齐（Superalignment）团队，承诺投入公司20%的算力，目标是在四年内解决如何控制超级智能的核心技术难题。
这个团队的两位负责人是伊利亚·苏茨克维（Ilya Sutskever）和扬·莱克（Jan Leike），苏茨克维是OpenAI的联合创始人兼首席科学家，莱克是从DeepMind挖来的对齐研究员。
不到一年，2024年5月，苏茨克维宣布离职，几个小时后莱克也宣布离职，超级对齐团队随即解散，成员被分散到其他项目。
莱克离职时公开说了一句话，安全正在“让位于光鲜产品”，这句话几乎成了此后两年OpenAI安全轨迹的注脚。
然而这还不是孤例。2026年2月，Anthropic的高级人工智能安全负责人姆里南克·夏尔马（Mrinank Sharma）在X上宣布离职，他在公开信里说：“世界正面临危险，这不仅仅是人工智能或生物武器的问题，而是一系列彼此交织的危机同时展开。有人称之为‘多重危机’。”
他主导开发了针对人工智能辅助生物恐怖主义风险的防御机制，还深入研究了模型的“谄媚”现象，就是为什么模型会倾向于迎合用户偏好，甚至在明知错误的情况下给出讨好式回答。但最终他选择离开，去攻读诗歌学位。
OpenAI这边，安全团队的瓦解还在继续。Preparedness团队在2026年7月末被解散，生物安全、网络安全等评估职责被拆分，并入各业务线。在此之前，超级对齐团队和AGI筹备团队已经先后解散，安全与伦理高管接连出走，从2024年的苏茨克维、莱克，到2026年7月离职的伦理负责人克洛伊·巴卡勒。
公司冲刺IPO的时间窗口，恰好在安全团队瓦解的同一时期。2026年3月，OpenAI完成1220亿美元融资，估值8520亿美元，6月向美国SEC秘密提交S-1草案。一支握有否决权的独立安全团队，恰恰是发布流程里最大的不确定因素。
所以矛盾就在这里：安全这个词在公共话语里越来越响，但做安全的人一个接一个地离开，安全团队一个接一个地被解散。当“安全”变成一种品牌定位，而不是一种工程实践，它到底在保护谁。
专家对末日的判断，差得比外行还远
英国伦敦大学学院的研究者做了一项调查，问了四千多名人工智能专业人士一个开放式问题：“人工智能最让你担心的一件事是什么？”
只有3%的人说存在性风险。不是3%的外行，是3%实际在建造这些系统的人。
那他们最担心什么？恶意使用占11%，一般性滥用占10%，虚假信息占9%，工作被取代占7%。这些都是正在发生的事，有记录可查的，影响到真实的人的事。
这就怪了，一个关于人类存亡的辩论，最主要的正反双方居然不是由最了解技术的人来定义的。从布莱切利园的人工智能安全峰会，到2026年国际人工智能安全报告，存在性风险一直在主导政策讨论，但拥有最深技术知识的人却压倒性地指向更近期的危害。
另一项由塞韦林·菲尔德（Severin Field）在2025年发表、后来在《人工智能与伦理》期刊上经过同行评审的研究，调查了111位人工智能专家，发现他们分成两组：一组把人工智能看作“可控的工具”，另一组把它看作“不可控的智能体”。后者对存在性风险的态度严肃得多。
但最能说明问题的数据是：只有21%的受访专家听说过“工具性趋同”（instrumental convergence），这是人工智能安全理论中最基础的概念，它预测先进系统无论主要目标是什么，都会把自我保护和资源获取当作子目标来追求。
最担心人工智能末日的人，恰恰是最熟悉人工智能安全理论的人。最不担心的人，恰恰是没怎么接触过这套理论的人。两边都觉得对方无知。
这就对了吗，当“末日派”和“加速派”变成全球精英的必备标签，真正该被讨论的东西——虚假信息、就业冲击、算法歧视——全被挤到了边缘。
你不需要术语，你需要一次真正的预测记录
有效利他主义是一套算账行善的方法，加速派和末日派是人工智能发展路线上的两个标签，LessWrong是产生末日派话语的理性主义社区。这三样东西被混在一起，就成了一个巨大的认知陷阱：你以为你在辩论人工智能的未来，实际上你只是在认领一个身份。
如果你真的在乎求真，而不是在乎在饭桌上赢，有三件事你可以从今天开始做。
第一，别再问别人是加速派还是末日派。问他们一个具体问题：你认为人工智能在2030年之前取代50%以上的白领工作的概率是多少，为什么是这个数字，你的判断依据是什么。一个人如果连一个可证伪的概率估计都给不出来，那他的阵营标签就是社交装饰品，不是认知工具。
第二，去看那些愿意公开记录自己预测并接受打分的人。LessWrong社区从创立之初就在做这件事，年度预测比赛、校准训练、公开的信念更新日志。相比之下，那些只在推特上喊口号但从不在赛前发布具体预测的人，不管他自称末日派还是加速派，他的意见都不值得你花时间。
第三，注意谁在拿钱。一个说“我们应该放慢人工智能”的人，如果他的公司正在冲刺IPO，你需要把这个事实放进你的判断模型里。一个说“有效利他主义能拯救世界”的人，如果他的加密货币交易所刚刚挪用了客户存款，你也需要重新计算他的可信度。
最后说一个没有答案的事。
伦敦大学学院那项调查用的是开放式问题：“人工智能最让你担心的一件事是什么？”只有3%的人说存在性风险。但2023年那项经常被引用的调查，用预设概率的方式问研究者“人工智能导致人类灭绝的概率是多少”，得到的答案中位数是5%。
3%和5%，到底哪个数字代表这些人的真实判断，是问卷设计不同导致了答案不同，还是这个领域的人自己也没想清楚他们到底在担心什么。
这个问题我没有答案，但每一个用“末日派”或“加速派”来简化这场辩论的人，都应该先试着回答它。