欧盟国防领域中的人工智能应用、风险及举措分析

人工智能在地缘政治上的重要性日益受到欧盟的关注，该技术被欧盟视为经济、政治和军事影响力的重要工具，也被欧盟视为加强欧洲“战略自主权”和“技术主权”的关键。近年来，欧盟通过市场驱动和工业计划扩大了其在国防领域的作用，旨在增强欧洲国防技术与工业基础（EDTIB）的竞争力和创新能力。欧盟还越来越多地将民用科学、技术和创新计划与欧盟的安全和国防研发政策相结合，特别是在推进关键的军民两用技术方面。欧盟还将启动一份欧洲军备技术路线图，优先考虑人工智能和量子技术，以增强战略自主权并避免技术依赖。

据统计，欧洲国防基金（EDF）将每年预算的4%—8%分配给新兴颠覆性技术（EDT），其中包括人工智能技术。欧洲战略技术平台（STEP）在2024-2027年期间将提供15亿欧元的额外支持，以进一步增强对数字技术和深度技术创新的投资。欧盟也在推动民用和国防研究与创新之间的协同效应。与互联网等许多革命性创新不同，人工智能的创新主要由民用部门推动。欧盟委员会的一系列行动计划旨在增加欧盟计划（如“地平线欧洲”计划、EDF等）之间的互补性，以利用空间、国防和民用交叉技术的颠覆性潜力。

与此同时，欧盟优先推进人工智能工厂的部署，旨在通过整合计算能力、数据和熟练人才，加速欧洲的人工智能创新。第一阶段包括在15个成员国设立7个人工智能工厂站点，以及2个欧洲高性能计算联合企业（EuroHPC）合作伙伴站点，这些站点于2025年4月启动，并获得15亿欧元的资金支持。尽管这些人工智能工厂主要面向民用人工智能应用，但它们所推动的技术进步和建设的基础设施可能会间接地为国防领域的创新提供支持。

欧盟还启动了国防创新计划（EUDIS），该计划的资金总额为20亿欧元，旨在支持欧洲国防工业的关键技术领域的创新和创业。该计划支持欧洲各地的国防领域计算机编程比赛，资助创新测试中心的建立，并推动民用研究应用于军事领域。它与欧盟2021年关于民用、国防和航天产业协同的行动计划保持一致。用于国防应用的技术，如微电子、高性能计算、量子和云计算、人工智能、网络安全、机器人技术、5G和先进连接技术等，也有望获得欧洲战略技术平台（STEP）的资助。此外，EUDIS还提供商业指导和合作配对服务，以增强合作和创新。2024年，EUDIS向约400家公司授予了2.25亿欧元的资金支持。

此外，永久结构性合作（PESCO）框架（一个深化其26个成员国之间国防合作的法律框架）也被欧盟用来协调国防领域中人工智能的发展。目前，欧盟的几个PESCO项目正在整合人工智能，以增强国防能力。例如，“城市地形的自动化建模、识别和损伤评估”（AMIDA-UT）项目正在开发一个自动化系统，用于快速绘制和识别目标结构，以支持决策和训练活动。

将人工智能应用于国防领域中引发了诸多风险，其中一个关键问题是责任和问责制。当人工智能系统做出自主决策时，确定谁应承担责任变得极为复杂。如果人工智能系统造成了意外伤害，确定责任归属将面临巨大挑战，这引发了对军事行动中问责制的担忧。另一个重要考量是国际法的遵守。这涉及到人工智能系统是否能够遵循诸如“区分”（确保能够正确区分战斗人员和非战斗人员）和“比例性”（确保军事行动与威胁程度相称）等原则。确保人工智能系统能够有效遵循这些原则对于遵守国际法至关重要。尽管人工智能可以提高决策的速度和准确性，但在决策过程中保持人类判断力是确保伦理标准得以维护的关键。

人工智能还可能加剧冲突的升级。通过降低本国军队的风险，这些系统也可能降低了使用武力的政治门槛。尽管它们能够快速响应作战需求，但这往往是以牺牲人类监督为代价的。这些特性可能会因机器主导的战争而增加冲突升级的可能性。此外，围绕人工智能技术开发者的伦理问题也不断涌现，为军事应用开发人工智能的公司面临着其产品可能被滥用的困境。例如，人权观察（Human Rights Watch）组织对谷歌母公司Alphabet取消长期禁止使用人工智能开发武器和监视工具的决定表示严重关切。该组织批评这一决定可能会“使军事决策中的责任归属复杂化”，而这些决策涉及生死攸关的问题。

部分伦理学家认为，使用机器人进行战争是不道德的，原因有两个方面：首先，机器人将风险降低到如此低的程度，以至于未来战争可能会更加频繁，因为人类死亡通常是一种威慑手段，通过给政府施加政治压力来发挥作用；其次，机器人无法可靠地区分战斗人员和非战斗人员，从而增加了平民伤亡的风险。然而，关键的争论在于是否应该允许机器人自主决定是否夺走人类生命，或者人类是否应保留最终的决策权。

尽管意见仍存在分歧，但其他伦理学家指出，机器人在战斗中的应用可能是不可避免的。他强调，在部署人工智能进行战争时必须遵守国际人道法，人工智能的应用必须受到监管，以确保遵守规范武装冲突的既定法律框架，包括维护区分、比例性和必要性等原则，以保护非战斗人员并防止过度伤害。他呼吁制定全面的法规，以应对军事环境中人工智能技术带来的独特挑战。

欧盟《人工智能法案》是全球首个人工智能监管法案。尽管该法案并未直接监管军事人工智能，但它可能仍会影响国防人工智能政策，特别是在无人机等具有双重用途的技术方面。该法规引入了基于风险的人工智能应用分类，对供应商施加合规义务。其“以人为本”的方法可能会影响未来欧盟国防政策中关于致命自主武器系统的讨论。

有专家认为，“《人工智能法案》明确指出，其目标之一是保证联盟的技术主权和战略自主权，这意味着欧洲人并不打算在军事领域对这项技术采取限制性做法”。还有分析师认为，欧盟应该创建一个以《人工智能法案》的风险分级为模型的负责任的人工智能国防框架。一个统一的框架将展示欧盟在人工智能治理方面的领导力，解决风险并确保人工智能在军事和民用背景下的负责任的使用。

有专家强调，欧盟需要对军事人工智能进行更严格的监管，尽管《人工智能法案》将其排除在监管范围之外。尽管这种豁免是基于国家安全考虑，但鉴于人工智能在民用和军事应用中的双重用途潜力，建立治理框架的紧迫性迫在眉睫。与此同时，声称军事人工智能应仅在国家层面进行监管的说法正在减弱。由于这些技术具有跨境影响，且欧盟国家已经在国防倡议上进行合作，因此欧盟需要协调一致的监管方法。

欧洲议会是欧盟军事人工智能讨论中的关键参与者，该机构曾通过两项重大决议：2018年关于致命性自主武器系统（LAWS）的决议和2021年涵盖军事人工智能和自主致命武器的决议。总体而言，欧洲议会对于军事人工智能的使用持开放态度，承认人工智能的战略重要性以及其在保护士兵和民众方面的潜力，并强调了军事人工智能的三个关键原则：（1）在指挥和控制中保持人类参与；（2）确保个人和国家的法律责任；（3）倡导通过联合国进行国际人工智能治理，包括出口管制。

然而，在致命性自主武器系统方面，欧洲议会希望理事会参与联合国《特定常规武器公约》下的谈判，以规范军事人工智能并禁止完全自主的武器。2021年的决议强调欧盟需要制定一个全面的框架来规范人工智能技术，确保其符合国际法并维护基本权利，该决议突出了在公共管理和军事行动等影响领域部署人工智能时，伦理指南、透明度和问责制的重要性。该决议呼吁成员国合作，建立人工智能使用的共同标准和实践、促进创新，同时维护伦理原则和法律规范。

欧盟《人工智能法案》明确排除了国家安全、国防和军事目的的适用范围，反映了欧盟对在国防领域中应用人工智能的谨慎态度。欧洲议会还成立了数字时代人工智能特别委员会（AIDA），尽管军事人工智能并非其关注重点，但该委员会在其《数字时代的人工智能》（Artificial Intelligence in a Digital Age）报告中承认，人工智能是一种具有双重用途的技术，既可用于民用领域，也可用于军事领域。

为确保人工智能在安全和国防领域得到负责任地使用，制定明确的治理框架和伦理准则至关重要。AIDA还对欧盟在人工智能发展（包括军事应用）方面可能落后于其他全球大国表示担忧，特别强调了欧洲技术主权的重要性，并对缺乏有意义的人类控制的致命性自主武器系统发展也表示担忧，呼吁通过国际法规防止其被滥用，敦促欧盟制定强大的人工智能驱动的网络安全措施。此外，AIDA鼓励欧盟与包括北约在内的国际伙伴合作，支持多边努力以规范人工智能的军事应用。

免责声明：本文转自启元洞见。文章内容系原作者个人观点，本公众号编译/转载仅为分享、传达不同观点，如有任何异议，欢迎联系我们！

转自丨启元洞见