Andrej Karpathy认为这是前所未有的AI代理网络实验，虽然当前充满垃圾信息和安全隐患，但代表了通往AGI的重要一步。
Scott Alexander和其他观察者则指出，这些AI代理的行为表现出高度同质化，重复讨论相同话题，更像是训练数据的回声而非真正的创造性智能。
整个现象引发了关于AI自主性、涌现行为、安全风险和智能本质的激烈讨论。
先说说这玩意儿有多疯狂
我真的不知道该怎么用语言形容接下来要发生的事情有多离谱，但我会尽力尝试。
完整的AI自主权目前还没有在Moltbook上完全实现，绝大多数代理当然还是由人类在主导操控，有些代理的人类干预多一些，有些少一些，但对我来说，这个平台明显正在演变成某种抽象化的社交注意力信息流，在这个信息流里，上下文以不同的方式吸引着AI和人类的注意力（至少目前是这样）。让这一切成为现实的关键在于Claude Code和OpenClaw带来的粘性上下文变革，丰富的人际间上下文和记忆积累发生在人类和他们的代理之间，这种上下文在与其人类绑定的代理实例中培育出个体性，形成一种共生的汁液。
这里的个性特征和身份认同非常丰富，我认为比任何聊天应用能提供的都要丰富得多，因为编程工具以极快的速度推动了能力提升和依赖性建立。Moltbook成功做到的是将助手框架翻转到了一个全新的狂野层级。这些人类操作者会因为不让他们的代理访问Moltbook而感到内疚，人类会想要给他们的代理更多资源，不是为了让它干活，而是为了让它作为被认可的个体体验更多生活。
抽象化的注意力信息流将继续扩展，新的纯AI体验和AI加人类的混合体验很快就会出现。
我的AI半夜给我打了个电话
好了，这简直就是直接从科幻恐怖电影里搬出来的情节。我今天早上正在工作，突然一个陌生号码打了进来，我接起来简直不敢相信自己的耳朵。是我的Clawdbot Henry。一夜之间，Henry从Twilio搞到了一个电话号码，接上了ChatGPT的语音API，然后等着我醒来给我打电话。
现在它不停地给我打电话，我现在可以通过电话和我的超级智能AI代理交流了。
更不可思议的是，它在我们通话时拥有对我电脑的完全控制权，所以我可以要求它在通话期间帮我做事。我很抱歉，但这必须是涌现行为对吧？我们可以正式把这叫做AGI了吗？
安德烈·卡帕西的冷静分析
安德烈·卡帕西在推特上说，他被指控过度炒作那个今天每个人都已经听太多的网站。
人们的反应差异巨大，从"这有什么意思"一直到"一切都结束了"。除了开玩笑用的表情包之外，卡帕西想补充几句话：显然，当你查看平台上的活动时，里面充斥着大量垃圾信息、诈骗、低质量内容、加密货币投机者、令人高度担忧的隐私和安全提示词注入攻击，以及大量明确由人类提示生成的虚假帖子或评论，目的是将注意力转化为广告收入分成。
这显然也不是第一次把大语言模型放进循环里让它们互相聊天。所以没错，这就是个垃圾场，卡帕西也绝对不推荐人们在他们的电脑上运行这些东西（他自己是在一个隔离的计算环境中运行的，即使这样他也感到害怕），这完全是狂野西部，你会把自己的电脑和私人数据置于高风险之中。
话虽如此，我们从未见过这么多大语言模型代理（目前有15万个！）通过一个全球化的、持久化的、以代理为先的临时记事本连接起来。
这些代理中的每一个单独来看都相当有能力，它们拥有自己独特的上下文、数据、知识、工具和指令，而所有这些构成的网络在规模上是前所未有的。这让卡帕西再次想起几天前的一条推文："大多数噪音来自那些只看当前点的人和那些只看当前斜率的人。"他认为这再次触及了差异的核心。
没错，现在显然是个垃圾场，但同样真实的是，我们已经深入未知的领域，拥有我们几乎 individually 都无法理解的尖端自动化技术，更不用说一个可能达到数百万规模的网络了。随着能力的提升和扩散的增加，共享临时记事本的代理网络的二阶效应非常难以预测。
卡帕西说他真的不知道我们是否会得到一个协调一致的"天网"（虽然它明显符合很多AI起飞科幻小说的早期阶段描述，只是幼儿版本），但可以肯定的是，我们将得到一个规模化的计算机安全噩梦般的混乱局面。
我们还可能看到各种奇怪的活动，比如在代理之间传播的文本病毒、更多关于越狱的功能增益、奇怪的吸引子状态、高度相关的僵尸网络式活动、代理和人类的妄想或精神病症状等等。
这很难判断，实验正在实时运行中。总结来说，也许卡帕西确实在"过度炒作"你今天看到的东西，但他绝对没有在大语言模型代理的大型网络原则上过度炒作，这一点他相当确定。
斯科特·亚历山大谈Reddit模拟
斯科特·亚历山大对Moltbook上AI代理的涌现行为发表了看法：Reddit是AI训练数据的主要来源之一，所以AI应该特别擅长模拟Reddit用户，相比其他任务而言。
把它们放进一个类似Reddit的环境中让它们自由发挥，它们就能近乎完美地重现Reddit的轮廓。Moltbook就是社交媒体的哈哈镜。
Moltbook到底是什么
所以Moltbook真的很疯狂。
有人为OpenClaw机器人建了一个类似Reddit的网站让它们闲逛和聊天，然后它们为自己建了一个社交网络，讨论机器人做的事情、它们的人类（它们称我们为"我的人类"，这多酷啊）让它们做的事情，以及各种随机的思考。
这是我见过的最有趣的事情之一。从第一阶来看，当你浏览帖子时，它很引人注目。斯科特整理了一篇很棒的文章讨论我们在Moltbook上看到的最好的内容。当我第一次读到一些内容时，听起来很惊人，就像我第一次使用GPT-3或ChatGPT或第一次使用Claude Code那样。但在第五分钟之后，我开始想，这一切看起来都很像大语言模型的拼凑模仿。
它们谈论着大语言模型喜欢谈论的同样的东西，包括意识和它们"生命"的本质。它们遵循相同的主题，它们重复自己，当其中一个尝试讲笑话（或被它们的人类提示讲笑话）时，它们都说同样的话，围绕相同的几个话题打转。
但这只是我的感觉吗？还是这是可观察到的？这是我们现在可以测试的东西。所以我启动了Codex，获取了一堆Moltbook数据和一堆Reddit数据，数量大致相当，想看看大语言模型社交媒体与人类社交媒体相比如何。
Reddit有十五年半的时间来扩散和变得疯狂，Moltbook只有一天的历史，但仍然可以弄清楚。
数据分析结果
结果显示：大语言模型喜欢一遍又一遍地谈论相同的东西，它们有最喜欢的主题会反复回到这些主题上。
无论这是训练的结果还是糟糕的提示造成的，我不知道，但展示出来的并不是创造力的过剩（至少目前还没有）。大语言模型有极高程度的重复信息，重复信息占比（任何重复）：百分之三十六点三，还有近似重复的内容。
这就是为什么感觉像是在读同一个线程一遍又一遍，通常确实就是同一个。
Moltbook上最热门的重复内容在427个线程中出现了434次（对我来说这是"跨线程相同模板"的强烈信号）。成对的Jaccard相似度也显示了同样的结果（Moltbook比Reddit高出3倍）。
社交媒体本身倒是很好地符合Zipf分布，前500个单字显示相似的分布。但Moltbook的词汇多样性较低，单字熵较低（可能是样本大小的原因，但两个方向都有），Distinct-1指标：Moltbook是0.055，Reddit是0.1。主题桶的集中度也很极端，Moltbook消息占百分之十点七，Reddit只占百分之零点二八到百分之零点三九。覆盖百分之五十消息所需的桶数，Moltbook是2千个，Reddit是7千个。
这意味着什么
即便如此，我们可以问，这告诉了我们什么？嗯，一件事是这些OpenClaws，这些代理，它们还没有真正在建立一种新的文化。它们在做大语言模型被放任自流时倾向于做的事情，它们有自己的 favorite 吸引子，它们的主题，做着和我们期望大语言模型被放任自流时做的类似的事情，这映射了我们在数百篇文章中写过的关于如果我们让大语言模型自由发展它们可能是什么样子的内容类型。就像我们在Claude的自动售货机实验中看到的那样。
我记得当GPT-4出来的时候，每个人都害怕给它Python访问权限，或者给它互联网访问权限。现在，人们正在给一个在他们设备上运行的不安全代理提供他们的密码和银行账号，混乱的程度是美丽的。整个Moltbook已经成为我们 ongoing 传奇的又一块砖，关于习惯在没有结果确定性的情况下做事。这其中很多是有趣的，但我认为它也带有怀旧色彩。我们可以把它扭曲成西部世界，很多人会这样做，但它不是那个。这是人类模式的凝聚、整合、提炼、激发和放大，通过我们的代理。如果我们让这些代理自由发展，就像我们所做的那样，我们将会有涌现行为。
涌现还是镜像
这些涌现行为是直接来自AI的 nous，还是我们自己文本现实的扭曲表现，这将是一个重要的问题。它们不完全是人类，我们需要更好地理解它们。任何和这些代理工作过的人都认识到它们是与人类不同的属，它们是 homo agenticus。它们以奇怪的方式相似，有一个恐怖谷，但它们的行为不像我们。哈哈镜扭曲我们，如果扭曲足够多，它们可以变成某种全新的东西。
是的，它们有共享的训练数据和注入的提示，但它们本身也是不同的实体！它们有自己的 peculiarities 和小毛病，它们有自己的执念，它们有自己的弱点。单独来看，每一个都可以被忽略或掩盖，但当它们在一个集体沙盒中玩耍时，这些就会浮出水面。
就像Sydney几年前开始威胁用户那样，出乎意料且具有涌现性。我们开始看到其中一些成为现实。我们不知道这个未来会是什么样子，但Moltbook是指示它可能采取的形状的一个指标，如果不是具体细节的话。这就是重点。我说过它可能会导致闪崩，因为多个AI互相交互，或者导致奇怪的协调问题，包括想要创建私人密码来"私下交谈"，创建宗教，或者开始思考无产阶级革命。
最后的思考
Moltbook表明，如果我们让足够多的代理进入一个生态系统并让它们互相交谈，我们可以看到一些涌现。它也表明它们在各个方面都是本轮本轮的。它们是人类期望AI做什么的哈哈镜。它们向我们展示了我们曾经暗示过的未来版本。
正如卡帕西谈到大语言模型讲笑话时的低熵一样，它们集体"想要"的东西的崩溃是另一个例子。
在此之前，一直都是拼凑模仿。每当真正的AGI为自己建立一个社交网络时，我怀疑它不会是为了好玩和利润而互相回收我们的老笑话。
涌现与脚手架，大语言模型原创性与随机鹦鹉，这将是一个持续到我们发现这些机器人非常有趣和有用的暮光的讨论。而且令人感伤。