目前,各国为获得决策优势,正将人工智能技术应用于国家安全领域;尽管新技术将改变外交和战略的特点,但不会改变其本质;有关人工智能的信息将影响国家如何管控风险升级。围绕以上研判,美国战略与国际问题研究中心发布最新研究报告《算法稳定:人工智能如何影响未来的威慑力》,元战略提炼该报告核心观点,为分析人工智能对大国博弈的影响提供参考。
01
引 言
当国家安全领域引入人工智能技术时,这会如何危机决策?计算机算法将如何影响核大国之间的博弈?当一场危机中既夹杂恐惧和情感又涉及理性决策时,人工智能模型会把人们从失控的边缘拉回来还是会推向深渊?一旦核大国之间发生危机,人机如何互动?为回答以上问题,美国战略与国际问题研究中心未来实验室在2023年初举行了一系列危机建模活动,分析人工智能对未来威慑力的影响。这些建模活动以随机对照试验的形式设计,探讨了人类对对手大国人工智能集成水平的不确定性,以及这一因素在危机期间对战略稳定性的影响。
该研究共得出两大重要发现。首先,在所有建模中,人工智能技术水平的高低对战略没有明显影响,而且在应对危机时,人们普遍倾向于尝试结合多种权力工具。尽管在不久的将来数据科学和人工智能赋能国家力量将成为重要趋势,但一些战略要素将继续存在。即使人们可以用机器来收集和处理更多信息并帮助制定国家安全决策,外交、经济胁迫和影响力活动也将继续存在。人工智能虽然可以增强战略,但不会从根本上改变战略。尽管如此,各国仍亟需培训国家安全专业人员,让其了解何为人工智能以及人工智能如何在外交政策危机中为人类决策提供支持。其次,随着各国针对性地瞄准对手的作战网络,各国在核武器阴影下的作战方式也将发生变化。尽管对风险升级的感知不太可能受到人工智能能力平衡的影响,但用于选择灵活应对方案的标准将发生变化。
02
威慑、作战网络和人工智能
在现代军事规划和行动中,信息通过作战网络进行管理。实施远程精确打击和跟踪对手部队动向都有赖于数据的汇总和分析。这种逻辑是联军全域联合指挥与控制网络的基础,该网络旨在通过更快的通信、处理和决策层,在由传感器和射手组成的分布式网络中推拉数据,而这些传感器和射手则通过人工智能和移动通信技术连接起来。在算法的辅助下,一个国家能处理的信息越多,就越有可能识别机会和风险窗口,并调整目的、方式和手段,以获得相对优势。
然而,大多数关于人工智能与未来战争的研究更多关注的是风险和伦理因素,而非谈判优势。首先,多种观点认为,人工智能将带来新的风险,包括“闪电战”,并可能在多个方面产生破坏安定的影响。有观点认为,随着大国竞相获取关键技术,新的大国竞争时代将以“微妙的恐怖平衡”为标志。在官僚机构内部,国防规划人员可能会依赖人工智能建议,从而造成新形式的战略不稳定。在战术层面,自主武器系统的速度可能会导致意外升级。
以上观点存在两个问题。首先,除了文献综述、替代方案和建模之外,有关人工智能破坏安定的论点尚未得到探讨,这些方案更多是为了获得研究视角,而非评估战略。其次,有关新兴技术和意外升级的论述往往忽略了增加信息在缓解紧张局势方面的作用。如果在整个作战网络中应用的算法有助于减少不确定性,那么它们就有可能增强威慑。
03
模拟演习
2023年,美国战略与国际问题研究中心未来实验室进行了两次模拟演习,探索人工智能对战略决策影响的危机情景。此次演习的重点是两个竞争对手之间涉及第三方国家的危机,这两个竞争对手都拥有核武器和二次打击能力。演习中的敌对国家被抽象化,以消除对当前国际体系中敌对关系的偏见,从而减少混淆因素影响演习的风险。因此,参与者要选择如何应对危机,以及针对敌对国家的作战网络中的哪些要素。该演习由29名个人参与者组成,每个人都有10年以上的国家安全经验。演习设计改编自早先用于研究现代竞争和网络升级动态的模拟演习。该演习将参与者置于一个虚构的场景中,涉及两个核对手之间的危机对峙:“绿国”和“紫国”争夺一个小国“橙国”。绿国和橙国是条约盟国。紫国和橙国存在海上领土争端。参与者扮演绿国,随着危机的发展,就灵活威慑(竞争)和灵活应对方案的最佳组合做出决策。
04
演习发现
1
灵活的威慑选择
在整个演习过程中,每个参与者都有三个可供选择的选项,即外交、信息、军事或经济。分析这些选择为我们提供了一扇窗口,让我们了解拥有至少10年国家安全经验的参与者是如何以危机管理的“方式”来实现重建威慑的“目的”。在统计学上,两种处理之间没有显著差异。人工智能能力的平衡并没有改变参与者处理竞争战略和管理危机的方式。在所有处理中,游戏者都制定了一种综合方法,经常选择多种权力工具向对手施压,而不是专注于严格的军事应对。换句话说,对手之间人工智能能力的高低并没有直接改变早期的危机应对,以及旨在稳定局势和重建威慑的灵活威慑选择。虽然人工智能将增强从战术到战略层面的多种分析流程,但国家安全领导人仍将做出关键决策,并寻求减缓和管理危机的方法。风险可能更多在于危机期间人们如何与算法互动,而不是使用数据科学和机器学习来分析信息和情报。人工智能本身并不会带来风险。
参与者普遍认为,这场危机是敌对国家的人类领导人通过人工智能赋能的国家安全机构以寻求优势。参与者讨论的重点不是算法如何歪曲信息,而是如何通过外交官向其他人类领导人传递直接沟通和明确信息。在这一逻辑的驱使下,参与者将重点放在通过外交外联来发展局势,同时增加该地区的情报、监视和侦察能力。尽管与会者一致认为外交是应对危机的有效手段,但在外交工作应公开呼吁缓和局势,还是私下利用第三方或影响力活动警告本国精英不要让局势进一步升级的问题上,他们的意见却不尽相同。同样,人工智能并非重点,而是一种获得更好的态势感知并确定与敌对国家进行危机沟通的最佳机制(即私人、公共或第三方)的方法。危机管理的核心是人,而不是机器。
由于战争甚至军事化危机都是罕见事件,人工智能算法会根据训练数据和参数,在没有人为干预的情况下将其视为罕见事件。这并不意味着“闪电战”和误读局势的可能性为零。相反,问题的关键在于,鉴于国家间战争和军事化危机的数量较少,很少有模式可循,而且几乎肯定会有人类参与其中。没有哪个国家的高级安全领导人会在危机中把所有决策权交给算法。
最终,参与者认为部署额外的情报、监视和侦察行动值得冒潜在的危机升级风险,因为这对分析对手的行动至关重要。国家安全专业人员希望确保在危机期间对算法推理进行检查,并愿意为此部署行动,甚至放慢行动速度,为外交和发出明确信号争取时间和空间。在国际关系中,安全困境是指一国为加强自身安全所做的努力导致敌对国家更加不安全。新技术使人们难以评估进攻性或防御性军事能力是否能创造战略优势,因此,人们预计人工智能的出现会引发安全困境和无意中的危机升级,敌对国家在选择灵活的威慑方案时会选择更严厉的危机应对方案。然而,根据参与者的讨论和统计分析,危机模拟中并没有出现这种动态。
2
战斗网络
当人们已知人工智能时,参与者们讨论了如何将决策层作为目标,从而减缓危机,让人类有机会做出反应,并削弱对手以机器速度进行报复的能力。同时,他们讨论了如何以最佳方式攻击决策层,包括引入新形式的灵活威慑和应对方案,旨在欺骗和迷惑帮助高级领导人分析危机的人工智能应用程序。当人工智能未知时,参与者选择以效应器(如常规武器)为目标,因为在对手决策能力不确定的情况下,效应器被认为是回报率最高的目标。在不了解对手国家作战网络中人工智能的情况下,参赛者选择改变部队的相关性,以削弱能够发动报复性打击的军事能力。这一发现启示我们重新思考军事目标选择的各个方面,因为在这个时代,支持危机决策的人工智能应用程序将越来越复杂。
05
政策建议
1
拥抱实验和敏捷思维。国家安全界需要停止对“天网”的担忧,以及其他与技术相关的威胁膨胀,并开始构建应用程序,帮助人们浏览大量信息。这些演习将各作战司令部连接起来,测试它们在危机期间和向冲突过渡期间通过人工智能调节的无缝作战网络开展工作的能力。
2
参与活动分析。战争中永恒不变的是对信息的争夺,以及指挥官如何在收集情报的同时利用侦察和安全行动来了解态势、预测变化并寻求优势。这种信息争夺战将在人工智能应用程序管理的复杂作战网络中进行,因此需要新的机动、安全和出其不意的概念。一个国家如何保护自己的作战网络,同时削弱对手的实力,很可能成为未来战役的真正决定性行动,也是一种全新形式的“先发制人”
3
从开放天空到开放算法,就二十一世纪军备控制展开更广泛的对话。各国有必要开始思考人工智能时代的军备控制问题。对于未来的威慑而言,管理武器库存可能不如建立规范、制度和条约来管理针对敌对核国家现代作战网络决策和处理层的军事行动。在危机中,各层级的软件都在寻求提高效率以加快决策速度,高层领导有可能发现自己陷入了升级陷阱。对与预警和情报相关的关键系统的攻击可能会加速这种牵引。各国越早携手绘制风险地图并建立共同理解的防护网,核对手之间无意或意外升级的可能性就越低。这些努力应包括2轨和3轨模拟演习和对话,为对手国如何处理危机提供信息。
免责声明:本文转自元战略。文章内容系原作者个人观点,本公众号编译/转载仅为分享、传达不同观点,如有任何异议,欢迎联系我们!
推荐阅读
转自丨元战略
研究所简介
国际技术经济研究所(IITE)成立于1985年11月,是隶属于国务院发展研究中心的非营利性研究机构,主要职能是研究我国经济、科技社会发展中的重大政策性、战略性、前瞻性问题,跟踪和分析世界科技、经济发展态势,为中央和有关部委提供决策咨询服务。“全球技术地图”为国际技术经济研究所官方微信账号,致力于向公众传递前沿技术资讯和科技创新洞见。
地址:北京市海淀区小南庄20号楼A座
电话:010-82635522
微信:iite_er
推荐站内搜索:最好用的开发软件、免费开源系统、渗透测试工具云盘下载、最新渗透测试资料、最新黑客工具下载……
还没有评论,来说两句吧...