【网安智库】人工智能重塑国家安全

我很高兴与大家一起分享我的一些人工智能重塑国家安全的想法、我们可采取的行动和步骤。

当今的人们比以往任何时候都更加富有、聪慧，彼此之间也建立了更广泛的链接，我认为这非常重要，能够带给我们前所未有的机会，快速找到之前无法解决的问题的应对之道，AI即是如此。AI 本身是一种工具，可以用于好的事物，也可以用于坏的事物，但我们应该对人工智能技术（AI）抱有更为乐观的态度。回到2003 年伊拉克战争期间，当时我在联合国武器检查团伊拉克调查小组工作，主要协调保护及援助禁止化学武器组织成员，那时，无人机数量寥寥可数，没有 AI 或者自动机器人，甚至也没有智能电话。仅仅 15 年之后，世界完全改变了，我们拥有了虚拟现实系统（VR）、自动驾驶汽车、虚拟化系统、无人机以及其他许许多多的新生事物。当然再往后 20 或者 30、40 年后，我们的世界可能变得更加不同，人类和 AI 可能共同存在，我想强调的是这是一种趋势，而非预测。

值得注意的是，现在主要由私营部门在引领人工智能的发展，而不是政府公共部门，很显然政府在人工智能领域已经落后了。直至 2017年，才有国家开始制定人工智能国家战略，中国便是其中之一。而欧盟及其他一些其他国家则通过投资或者进行产业合作，作为自己国家的人工智能战略。

到 2015 年，联合国安理会才第一次真正地讨论了 AI，当时由我主持这个讨论会，与会的绝大多数联合国代表顽固地认为 AI 只存在于科幻小说，有些“卓越的”演讲者甚至质问为什么要在联合国这样的场合来讨论 AI。显然，短短几年的时间，一切都发生了改变。就在去年（2017 年）的联合国安理会上，古特雷斯秘书长在致辞中指出：“人工智能技术改变世界 , 可以促进发展和让生活更多姿多彩，但它也会对劳动力市场，甚至是全球安全和社会结构产生深远的影响，我们呼吁所有的联合国机构和成员国都思考如何使用这项技术。”联合国的许多机构各自开展了 AI 项目和活动，我们与联合国犯罪司法所（UNICRI）开展了一项特别项目—UNICRI 人工智能和机器人中心，总部设在荷兰海牙，旨在提高公众对于人工智能和机器人技术风险与利益并存的理解，从而提高协调能力，加快知识收集和传播，提高安全意识并拓展活动领域。当前主要开展的内容共四个项目：全球教育项目、与国际刑警合作研究在执法过程中应用 AI 技术及使用机器人的机遇及风险、AI政策与治理、消减人工智能引发的自动化对发展中国家及转型经济体社会稳定的冲击。

目前联合国193个会员国的代表已经就2015年后的发展议程达成一致，发布了题为“变革我们的世界——2030 年可持续发展议程”的文件，标志着人类社会第一次就发展的概念达成共识，提出了 17 个可持续发展目标及 169 个子目标，总共 230 个指标，其内容可以归结为五大类，即人、地球、繁荣、和平和合作伙伴，是一张旨在结束全球贫困、为所有人构建尊严生活且不让一个人被落下的路线图。当然 AI 不是唯一的目标，也不是唯一的工具，但 AI 是非常强大的工具，可能帮助实现上述所有的目标。例如在协助完成消除贫困的首位目标时，使用AI 技术可以从太空中拍摄贫困地图，使实时资源调配成为可能，等等。这也是为什么从 2017年起，联合国组织召开以 AI 造福全人类为主题的峰会，尝试将 AI 定义为能够实现联合国可持续发展目标的特别项目。

AI 将重塑国家安全。首先 AI 对国家安全有非常大的影响，其次 AI 给国家安全既带来了收益，同时也带来了风险，但影响程度如何并未深入讨论过。这次人工智能安全高峰论坛恰逢其时，每一个观点的碰撞都有助于我们实现目标。首先分析 AI 技术应用于安全的好处，这例子有很多，如国际司法援助的自动研究分析及响应、虚拟尸检确定死因、自主机器人巡逻系统、被盗汽车的视觉识别、偷盗的行为检测、在线欺诈的自动识别和跟踪工具等等，这类科技的确效果明显。其次分析 AI 给安全带来的风险，在可预见的未来，AI 会增强犯罪，被用于致命性自动武器系统，带来技术性失业，当然还存在超级智能这类关乎人类生存的问题，这可能非常遥远，但是应当做到未雨绸缪。

2018 年 7 月，我们和国际刑警合作在新加坡举办了首届“执法中应用人工智能及机器人的机遇与风险”的全球会议，在会议上，我们研讨了一些新的基于人工智能的犯罪或恐怖分子使用的工具，主要有数字攻击、政治攻击和物理攻击。首先，AI 用于数字袭击将增强网络攻击范围的效果，其次在政治攻击方面，常见的形式包括利用 AI 扩散假新闻，以及针对政治或公众人物的面部交换和视频操作工具。最后在物理攻击方面，世界各地都存在此类情况，但使用无人机结合复杂的 AI 技术，袭击极具破坏性。新加坡会议后，我们在纽约的总部介绍了会议成果，将最新的科技向联合国成员国做了介绍，并提出了相应的建议。

另一个大的话题——在 AI 领域各国是竞争合作还是军备竞赛，我本人比较乐观。其实就在 9 月 17 日，习主席向大会发的贺信很好说明了中国对于合作和竞争的态度，并鼓励成果分享和国际合作。关于 AI 导致技术性失业，联合国已经在日内瓦开展了一个全球的项目，旨在减小人工智能引发的自动化对发展中国家和转型经济体社会稳定的影响。

最后，我提议所有的人向前看，通过综合分析预测和评估，认识到合作对于解决问题的必要性，最终促成政府间、国际组织间、私营部门、学术界多元利益相关方之间的紧密合作。