马斯克等喊暂停，呼吁全球停止AI开发6个月

包括伊隆·马斯克、史蒂夫·沃兹尼亚克和人道技术中心的特里斯坦·哈里斯在内的1100多名签名者签署了一封公开信，该公开信于昨天被发布在网上，呼吁“所有人工智能实验室比GPT-4更强大的人工智能系统立即暂停至少6个月的培训”，否则我们可能面临“对社会和人类的深远风险”。

信中写道：

当代人工智能系统现在在一般任务上变得与人类具有竞争力，我们必须扪心自问：我们是否应该让机器用宣传和谎言充斥我们的信息渠道？我们应该自动化所有的工作，包括令人满意的工作吗？我们是否应该发展最终可能超过我们、超越我们、过时并取代我们的非人类思维？我们应该冒险失去对我们文明的控制吗？不得将此类决定委托给未经选举产生的技术领导者。只有当我们确信它们的影响是积极的并且它们的风险是可控的时候，才应该开发强大的人工智能系统。

这封信认为，有一种“规划和管理水平”“没有发生”，相反，最近几个月，未命名的“人工智能实验室”已经“陷入了一场失控的开发和部署竞赛”，任何人——甚至是它们的创造者——都无法理解、预测或可靠控制的更强大的数字思维。”

这封信的签署人，其中一些是人工智能专家，表示他们要求的暂停应该是“公开的和可验证的，并且包括所有关键参与者。” 信中说，如果所说的暂停“不能迅速实施，政府应该介入并暂停”。

这封信并不主张完全停止人工智能开发；相反，它强调了 AI 设计师之间为争夺快速扩张的市场份额而展开的竞争所带来的危害。“人类可以享受人工智能带来的繁荣未来。在成功创建强大的人工智能系统之后，我们现在可以享受‘人工智能之夏’，我们在其中收获回报，设计这些系统以造福所有人，并让社会有机会适应，”文本总结道。

当然，这封信很有趣，因为已经签名的人，包括 Meta 和谷歌的一些工程师、Stability AI 创始人兼首席执行官 Emad Mostaque，以及非技术人员，包括一位自称是电工和美容师的人。

但是注意：大型语言模型 GPT-4 背后的组织 OpenAI 的任何人都没有在这封信上签名。也没有来自 Anthropic 的人，他们的团队从 OpenAI 中分离出来以构建一个“更安全的”AI 聊天机器人。

周三，OpenAI 首席执行官 Sam Altman接受了《华尔街日报》的采访，称 OpenAI 尚未开始训练 GPT-5。Altman 还指出，该公司在开发中一直将安全放在首位，并在 GPT-4 推出前用了六个多月的时间对其进行了安全测试。“他说。“我认为，我们一直在最响亮、最强烈、最长地讨论这些问题。”

相反在行业中同时充斥了大量批评的声音，觉得此倡议荒谬和可笑，都是签名成瘾的道德企业家，或者这也是行业追赶者心里所想，觉得前辈们开始卸磨杀驴，只想着一家独大。

您可以在此处阅读完整公开信。

https://futureoflife.org/open-letter/pause-giant-ai-experiments