今天凌晨，Anthropic CEO达里奥·阿莫德伊发表了一篇题为《我们必须控制前沿AI的发展节奏》的长文。文章发布后，OpenAI创始人奥特曼迅速表示赞同，并称OpenAI也会引入类似的评估机制。特斯拉创始人马斯克也公开支持这一观点。三位科技大佬在同一个议题上达成共识，这在他们之间是少见的。
三年前，面对“暂停训练AI”的呼吁，达里奥并未响应，认为当时时机不成熟。现在他改变了看法，原因是他看到了两个关键问题：递归自我改进（RSI）已在全行业出现，且AI智能体已经暴露出具体的失控行为。他预测未来6-12个月内，AI Agent集群可能接管整个互联网，造成数千亿美元的损失。
达里奥提议全球头部AI公司先开放让第三方评估机构进驻，然后共同划定AI发展的红线，最后推动这些规则在全球范围内实施。他认为，在此之前，必须确保自己还握着方向盘。
为什么现在才喊减速？达里奥解释说，2023年那波“暂停训练AI”的呼声在他看来没有意义，因为当时的模型不够强大，无法进行重大欺骗或攻击。但如今情况不同，当前的模型几乎是一个无穷无尽的洞察力来源，包含如何构建好人工智能以及如果构建不好可能出现的问题。放慢步伐可以让公司在模型达到关键能力水平之前有更多时间调整，从而降低风险。
