由布拉格查理大学的 Jan Kulveit 和 Telic Research 的 Raymond Douglas 带领的研究团队警告说，AI 带来一个不太被注意的生存风险：“逐渐失去权力”，意思是随着 AI 一步步发展，人类的影响力会越来越小。
他们认为，即使 AI 的能力只提高一点点，也会削弱人类对经济、文化和国家等主要系统的影响。这和大家常说的 AI 突然掌控一切的情况不一样。
研究人员说，随着AI 在这些领域慢慢取代人类的劳动和思考，它不仅削弱了选举和消费者决策等明显的控制机制，还削弱了那些依赖人类参与的社会系统与人类利益的隐性联系。简单来说：当这些系统越来越少依赖人类时，人们就失去了直接和间接影响它们的方式。
研究人员还表示，AI 系统可能会更积极地优化那些不符合人类偏好的结果。这些影响可能会在不同领域相互放大：经济实力影响文化故事和政治决策，而文化变化也会改变经济和政治行为。
研究指出，这种趋势可能会导致人类对关键社会系统的影响力不可逆转地丧失，最终造成人类永久失去权力，带来生存危机。人们将失去对重要系统的控制，并且无法重新拿回来。
AI 是经济、文化和国家的独特颠覆者
研究人员详细分析了 AI 在三个关键领域的潜在影响，展示了相对和绝对的无力感可能是什么样子。
与以前的技术不同，AI 几乎可以在所有经济领域取代人类的思考。市场压力、AI 的可扩展性和监管漏洞为采用 AI 提供了强大动力。这可能导致相对无力感，即尽管整体经济繁荣，但人们失去经济影响力；或者导致绝对无力感，即人们在 AI 优化的经济中难以满足基本需求。
在文化领域，AI 可能是第一个在所有文化角色中取代人类思考的技术。AI 生成的内容和互动越来越多，加上缺乏应对 AI 影响的“文化抗体”以及网络效应，会加速 AI 的采用。在相对无力感的情况下，人类文化可能会继续存在，但被边缘化。如果文化进化速度超过人类的理解和行动能力，则可能出现绝对无力感。
在国家层面，AI 可以减少对人类参与的依赖。地缘政治竞争、行政效率和对更多控制的渴望会推动 AI 的采用。在相对无力感的情况下，国家可能看起来很高效，但公民失去影响力。如果国家变成自我延续的实体，优先考虑自己的权力而不是为人民服务，则可能出现绝对无力感。
团队提出降低风险的方法
研究人员提出了几种应对这些风险的方法：
- 制定衡量商业、文化和政治领域中人类权力丧失的指标。
- 通过监管、税收和文化规范来防止 AI 过度影响。
- 通过改进民主进程、提高公众对 AI 系统的理解以及代表人类利益的 AI 代表来增强人类影响力。
- 对复杂的社会技术系统进行系统性协调的基础研究。
这项研究强调，随着 AI 应用的激励机制不断增强，跨学科方法和国际协调变得至关重要。因为根据作者的说法，人类的未来不仅取决于防止 AI 系统追求明显的敌对目标，还取决于确保我们的基本社会制度继续受到人类价值观和偏好的有效指导。他们认为，这需要更深入地理解在日益自动化的世界中，人类如何保持真正的影响力。