罕见一致!Anthropic CEO呼吁全球AI减速,马斯克:达里奥是对的
闻研社
本周,Anthropic 研究员 Jacob Coxon 离职,警告 AI 可能会在会在 10 年内灭绝人类,引起了巨大争议。
今天凌晨,Anthropic CEO Dario Amodei突然发布了一篇标题为「我们必须为前沿 AI 限速」的文章,再一次呼吁暂停前沿 AI 研究的脚步,他给出了一套围绕「可核验性」展开的制度设计
在这篇文章发布后,一向和 Amodei 不太对付的 OpenAI CEO 奥特曼,也罕见转发支持,连马斯克也认表示认同。
文章中最尖锐、也最具争议的矛盾与中国有关。
Amodei 一方面认为,美国只有维持乃至扩大相对中国的技术领先,才有主动减速的空间;另一方面又承认,真正有效的全球限速最终离不开与中国协调。
这形成了整套方案的悖论,因此,也很难不让人对 Anthropic 这个倡议的动机是否那么纯粹,产生一些怀疑。
1.Amodei 主张放慢 AI 模型能力提升的节奏,为对齐、安全防护与外部验证争取时间;模型训练和技术进步仍会继续。
2.AI 正开始帮助研发下一代 AI。 他认为,递归式自我改进已经在行业内出现,一旦能力提升的速度超过人类理解和控制系统的速度,风险会急剧放大。
3.智能体群可能在 6—12 个月后具备借助持久僵尸网络大范围控制互联网的能力,并可能造成数千亿美元损失。
4.中国是关键变量。 按 Amodei 的判断,美国减速的幅度不能超过其相对中国的领先幅度;他主张通过各种反制措施确保在未来 3—5 年扩大美国领先。