英国首相宣布成立全球首个人工智能安全研究所

英国首相里希·苏纳克（Rishi Sunak）宣布，英国将成立世界上第一个人工智能安全研究所，以检查、评估和测试新型人工智能（AI）。苏纳克是在英国皇家学会发表演讲时宣布这一决定，他认为全球有责任了解和应对人工智能的风险，为子孙后代实现其利益和机遇。

就在英国计算机科学的标志性故乡布莱切利公园举办全球人工智能安全峰会的前几天，苏纳克发表了演讲。此前，他宣布了成立英国政府前沿人工智能工作组的计划，以领导前沿人工智能模型的安全可靠开发，包括 ChatGPT 和 Google Bard 等生成式人工智能大型语言模型 (LLM)。该工作组于今年 6 月启动，并获得了 1 亿英镑的资金支持，以确保主权能力和广泛采用安全可靠的基础模型，帮助英国在 2030 年之前巩固其科技超级大国的地位。

与此同时，在 8 月份发布《2023 年国家风险登记册》（NRR）之后，人工智能首次被正式列为危害英国国家安全的主要威胁之一。

英国将获得最先进的人工智能保护

苏纳克在演讲中表示，英国人民应该放心，我们正在开发世界上最先进的人工智能保护措施。我会始终诚实地向你们说明风险，你们可以相信我会做出正确的长期决定。

针对人工智能安全研究所，苏纳克表示，他们将评估和研究包括偏见和错误信息等社会危害以及最极端的风险，从而让英国了解每一种新的人工智能模型能够带来什么。

“现在，我们对所面临的风险还没有一个共同的认识。没有这样的共识，我们就不可能希望共同应对这些风险。”苏纳克在演讲中表示，因此，英国将努力推动达成首份关于人工智能风险性质的国际声明，以确保随着人工智能的发展，人们对人工智能风险的共同理解也会随之发展。

“我将提议成立一个真正的全球专家小组，发布一份《人工智能科学现状报告》。当然，我们的努力还有赖于与人工智能公司本身的合作。而现在，这些公司已经信任英国，允许英国有特权访问它们的模型。这就是为什么英国有条件创建世界上第一个安全研究所的原因。”苏纳克在演讲中提到。

英国AI沙皇提议国际合作

上个月，英国政府的人工智能沙皇伊恩-霍加斯（Ian Hogarth）警告，网络犯罪分子可能会利用人工智能攻击国民健康系统（NHS）。

身为英国前沿人工智能工作组主席的霍加斯表示人工智能可能被武器化用以破坏国家医疗服务系统，其影响有可能会超过 COVID-19 大流行或 2017 年的 WannaCry 勒索软件攻击。他强调了人工智能系统被用于对医疗服务发起网络攻击，甚至设计病原体和毒素的风险。他补充说，与此同时，人工智能技术的进步，尤其是代码编写方面的进步，正在降低网络犯罪分子实施攻击的门槛。

在《金融时报》上，霍加斯表示，政府将这些威胁提上议事日程是非常正确的，但技术领导者需要注意这一警告并采取行动，为下一次不可避免的攻击做更好的准备。

在霍加斯看来，人工智能技术进步带来的威胁从根本上说是全球性的风险。目前，科技界有大量人员正试图开发在编写代码方面超人一等的人工智能系统。这种技术正在日臻完善。此外，他还补充到，在生物安全和网络安全方面英国与中国合作的那样，人工智能风险也需要展开大规模的国际合作。在试图遏制人工智能威胁等方面，不能单打独斗。