中美会晤，人工智能安全引关注

据中国外交部美大司官方微信公众号消息，为落实中美元首旧金山会晤共识，经双方商定，中美将于当地时间5月14日在瑞士日内瓦举行中美人工智能政府间对话首次会议，就人工智能科技风险、全球治理以及各自关切的其他问题进行交流。

中美两个大国之间的这次会晤，让人工智能安全问题又获重视。

自ChatGPT横空出世以来，到现在也只有短短的两年不到时间，但它所带来的影响越来越大。据麦肯锡预计，以AIGC为代表的AI技术将为全球经济带来超过7.9万亿美元价值，到2030年之前，如果生成式AI应用于各行业，每年总经济效益高达6.1万亿美元至7.9万亿美元。

但在这些AI技术带来巨大经济效益的同时，它所带来的安全问题也不容忽视。

人工智能可能带来的安全问题包括：

1）数据窃取风险。众所周知，人工智能需要海量的数据来进行学习和训练，这些数据中可能会包含用户的大量敏感信息。如果这些信息被滥用或泄露，可能会对个人隐私，甚至国家安全造成危害；

2）网络攻击风险。人工智能可以成为破坏网络安全和管理的‘帮凶’。在人工智能技术的辅助下，网络攻击者可以随时随地对特定目标轻易发起针对性和隐蔽性很强的进攻；

3）经济安全风险。人工智能技术的发展势必会替换一些人力工作，很多人会因人工智能技术而失业，这可能对国家经济安全、社会安全造成一定冲击；

4）‘数据投毒’风险。‘数据投毒’是指在人工智能训练数据中投放恶意数据，干扰数据分析模型的正常运行行为。如在智能汽车系统中‘投毒’，可能导致交通事故的发生；

5）军事安全风险。人工智能可以从两方面对军事方面产生影响。一方面，人工智能可被用在致命性自主武器上，通过自主识别攻击目标、远程自动化操作等，隐藏攻击者来源、建立对抗优势；另一方面，人工智能可以通过网络、决策者和操作者相连接，让军事行动针对性更强、目标更明确、打击范围更广。

例如去年4月，三星在导入ChatGPT不到20天后，便发生了三起相关事故，两起涉及半导体设备，一起涉及会议内容，使机密资料被外泄，涉及半导体设备测量资料、产品良率等内容，三星随后彻底禁止员工使用ChatGPT。

除了三星外，包括苹果、亚马逊、三星、Spotify、Verizon、富国银行、德意志银行、摩根大通等公司也都已经禁止或限制员工在工作中使用ChatGPT工具。

而人工智能引起的安全问题不仅受到了各大科技公司的重视，甚至已经上升至国家层面。许多国家也都已经开始关注人工智能安全问题。2023年10月18日，习近平总书记在第三届“一带一路”国际合作高峰论坛开幕式主旨演讲中就宣布，中方将提出《全球人工智能治理倡议》。《倡议》围绕人工智能发展、安全和治理三个方面系统阐述了人工智能治理的中国方案。其中提到，我们要保持战略定力，增强战略信心，统筹人工智能发展与安全，稳妥应对各种风险挑战，为人工智能注入更多“安全基因”。

英国人工智能安全研究所在近期发布了一个新的测试平台，旨在加强监测先进AI模型的安全风险。据悉，该工具箱名为Inspect，可以用来评估一系列领域的AI模型，包括它们的核心知识、推理能力和自主能力。

当然，人工智能安全问题仅凭单个公司或单个国家单打独斗也是无法实现的，需要公司与公司甚至国家与国家之间的共同努力。在近期习近平总书记访问法国期间，两国元首也在人工智能方面达成了一系列共识，其中就认为人工智能的机遇、风险和挑战本质上是全球性的，在人工智能领域面临的机遇和挑战，加强国际合作具有重要意义。

目前的人工智能技术还算是一个新兴的技术，但它的发展之快也令人侧目。未来，在带来许多利益的情况下，人工智能所带来的问题也不容忽视，而这些问题的复杂性和多面性也会给整个行业，甚至国家在应对时带来不小的挑战。解决这些问题可能需要不同公司、不同国家进行协同合作，共同应对，才能更及时、更有效、更好地解决这些问题，为人工智能的安全应用提供保障。

来源：TechSugar