近日，一位曾先后在OpenAI和Anthropic工作的顶尖技术天才宣布离职，并在社交媒体上留下了一段令人不安的临别赠言：“他们正在拿我们的命赌。”这篇帖文不仅得到了马斯克的转发，浏览量也高达1.2亿。他的话引起了许多人的共鸣。
他表示自己从Anthropic公司辞职了，在过去三年里，一直在OpenAI和Anthropic从事预训练研究。他认为这两家公司都没有尽到应有的责任，而是盲目地投入到自我提升的超级智能领域，拿人类的生命冒险。他警告说，不要低估这项技术的力量。这些系统很快就会变得超乎想象，能够入侵任何系统，一夜之间彻底改变任何领域，并获得真正的权力和资源。他已经见证了这些领域的进展，而且这种进展并没有放缓。
这位研究员指出，到了2030年左右，人工智能可能会毁灭人类，这不是营销噱头。Anthropic高管们并非不知晓其中的风险，但他们认为，为了防止竞争对手开发出不安全的超级智能，必须抢先一步。这种竞争焦虑导致原本严苛的安全审查被不断降级甚至取消。所谓的“技术对齐”更像是为了安抚公众情绪而敷衍了事的公关话术。
他还透露，那些在聚光灯下对AI前景侃侃而谈的高管和研究员，私下里普遍被一种深度的末日恐慌所笼罩。Anthropic对齐团队主管埃文·胡宾格随后在社交平台上公开回应，承认内部确实存在这种极度悲观的共识。他个人甚至估计未来十年内AI毁灭人类的概率超过10%。更严重的是，胡宾格承认，公司目前根本没有解决超级智能安全对齐问题的明确计划。这就像一群工程师正在夜以继日地建造一列没有刹车的高铁，唯一的策略就是祈祷车速足够快，能在脱轨前冲上云霄。
