《21世纪认知战与颠覆性治理》

21世纪的特点是前所未有的指数级技术进步。人工智能、认知科学、神经技术和其他相关领域当前和未来的发展，将进一步增加大规模操纵的风险，并可能导致心智军事化（militarisation of the mind）成为未来的战场。认知域作为第六个战争领域的出现将导致更多的认知战，这将提高非动能颠覆性手段相对于动能胁迫手段的地位和效率。同时由于缺乏国际治理，在这些非动能颠覆性手段高速发展的同时，如果国际治理仍一成不变，那么国际治理体系将缺乏对21世纪颠覆性手段所需框架、工具的理解。本报告探讨了认知战的出现以及新兴技术带来的非动能颠覆性手段在国际舞台上的兴起。首先，报告提出建立治理框架，规范认知战中以颠覆性为最终目标来使用新兴技术的行为，并提倡“颠覆性控制（subversion control）”的概念以防止心智军事化；其次，报告建议对神经技术和人工智能等新兴技术进行监管，同时提高“社会复原力”；最后，报告力求促进对认知战概念本身进行更多的研究，这将有助于新兴技术的治理工作。

虽然颠覆性手段并不新鲜，但最近的新兴技术正在以前所未有的规模和更易被获取的方式实现颠覆。认知战旨在控制对手的心理、感知和行动，即认知操作（cognitive operations）的总和，为使用武力或外交手段实现战略目标提供了一个日益可行的替代方案。然而，认知战领域很少或基本不受到国际治理。因此，国际社会有必要深入了解认知域和认知战、它们对颠覆性手段的影响以及相关的治理框架。颠覆性可定义为“非军事秘密行动中使用的影响力工具，它利用漏洞秘密渗透到一个规则和实践系统中，以控制、操纵和利用该系统对对手产生不利影响”。典型的颠覆性机制包括影响公众舆论、瓦解社会凝聚力、扰乱经济、破坏基础设施、影响政府政策等。然而，颠覆性手段的有效性受到各种因素的限制，例如，资源、协调、范围、颗粒度。由于这些限制因素，以往有效的颠覆性行动通常由拥有必要能力的强国实施，但影响有限。然而，如今神经技术、认知科学和人工智能领域的发展以及技术大众化从根本上改变了这些限制因素。通过实现更准确、更大规模和更低成本的认知行动，颠覆性将变得越来越容易以更低的成本实现，其影响和操纵对手的潜力会呈指数级增长。

人工智能（尤其是生成式人工智能）或神经技术等新兴技术正在认知域内实现高度的便捷性和高效的颠覆性。21世纪混合战争形式在大国之间的盛行，模糊了领域、国内和国外、国家和非政府主体以及和平与战争之间的界限。由此产生的环境是一种“长期潜在的斗争”，而不是一种明确划分的和平与战争状态，这种状态被称为“新世代战争”“不和平”或“角落中的冲突”。最近的学术研究侧重于认知战的概念，虽然对这一术语的定义尚未达成共识，但以下定义突出了认知战的关键特征：认知战旨在影响个人和/或群体的理解和决策机制以实现战略目标的颠覆性行动。认知战“可在动能行动之前、期间和之后使用，同时不属于目前国际上对战争行为的定义范围”。随着人工智能或神经技术等新兴技术的快速发展，以及这些技术与日常生活的日益融合，这些行动也将变得更加普遍和有效。认知战不同于信息战，信息战“侧重于控制信息流”，而认知战“旨在控制目标对所提供信息的反应”。有学者指出，“认知战通过将武器化的神经科学融入各种实践，专门致力于大脑控制”。虽然认知战产生的效果难以量化，但我们对什么是认知攻击、认知攻击的影响以及如何应对认知攻击缺乏清晰的认识。认知战的间接影响及其通过影响个体的信仰来扩大影响力，为实施此类攻击的人员提供了似是而非的责任推诿。因此，目前认知攻击几乎可以在没有国际社会报复风险的情况下实施。除了这些因素之外，高度易用的新兴技术也将继续提高认知战的效率，这些技术包括认知技术的进步，如监测大脑并与大脑连接的技术（如脑机接口）或复制人类认知的技术（如机器学习）。此外，社会和技术系统的快速融合也扩大了认知攻击的目标范围。

因此，新兴技术从两个方面增强了通过认知攻击进行颠覆性的潜在影响：

这些进步绕过了传统颠覆性手段的限制，数据的大量生产和内容的自动创建产生了大量可用于认知操纵的公开数据。随着人们越来越深入地融入数字空间，大模型对个人活动、思想和行为的全面了解也会增加，其影响力也会随之增强。脑电图（EEG）、脑磁图（MEG）或功能性磁共振成像（fMRI）等非侵入式脑监测技术和生物识别（BCI）等侵入式技术的出现进一步加剧了这些脆弱性，这些技术可以记录目标对象的神经过程，甚至直接影响他们的思维模式。因此，认知战将从这些发展中受益，并加速利用颠覆性手段在全球范围内产生影响力。施加影响力的手段将逐渐从纯粹的动能手段转向颠覆性手段，与使用武力相比，通过有针对性的自动化认知行动来实现政治目的更为有效，然而，目前还没有治理框架或工具来应对这种事态的发展。

在认知域缺乏治理意味着巨大的风险，它可能导致战争的道德和法律规范受到侵蚀，心智军事化不受限制，精神隐私受到侵犯，以及神经技术和神经武器领域的技术军备竞赛，从而导致国际稳定的整体下降。

认知战将提高颠覆性的速度和效率，作为一种影响力工具，颠覆性在很大程度上将是非动能性质的。目前，国际人道主义法中混合战争所利用的非动能行动仍尚未明确。由于认知战和用来发动战争的“武器”不符合我们为治理战争而对战争进行概念化的方式，传统的治理框架将不再适用。随着认知战将颠覆性变成实现这些目标日益有效的工具，缺乏国际治理的影响会变得更加严重。以心智为重点的治理工作已经开始出现，其中最突出的是神经权利（neurorights）概念的出现。在神经权利基金会的倡导下，神经权利寻求加强人权框架，创建一个新的权利类别，以更恰当地保护人类的心理。因此，应努力管理可能威胁这些权利的工具、神经武器及其附属手段和方式。当今的治理制度主要涉及动能武力的使用，需要加以更新，以反映促成认知战的非动能能力。因此，应制定负责任的国家行为规则、限制“武器”的类型和使用方式，以及制定法律、伦理和道德准则。

如果没有适当的治理制度，开发、军事化和部署相关能力以获取战略优势的动机就会成倍增加。由于人工智能和神经技术等新兴技术是认知战的关键推动因素，各国很可能会认为有必要将这些军民两用技术军事化，这反过来又会加速这些领域的技术军备竞赛。军备竞赛的态势可能导致在开发和使用这些技术的道德、法律和规范限制方面出现竞相逐低的现象，甚至可能会出现放弃严格监管的局面。这可能会使心智军事化成为常态，导致认知域不负责任的行为不受限制。最终，这些动态可能会阻碍有关精神隐私、操纵、影响、自决和完整性的规范。随着这些技术成为颠覆性手段和重要的国家安全工具，大国技术脱钩的明显趋势也会加速。认知战还可能对攻防平衡产生全面的影响。事实上，要察觉认知攻击的发生以及抵御攻击的能力本身就存在困难。在任何特定时刻都有可能受到认知攻击，这可能会增加开展认知战时优先使用认知攻击的动机。就认知战而言，用于发动认知战工具的不确定性和不规范性可能会进一步刺激认知攻击的使用。此外，随着认知战使能技术大众化和扩散，非政府主体、公司甚至个人都有能力影响大量民众，认知战将变得更加不稳定。

随着认知战日益成为武力的有效替代手段，国际社会可能会发现自己处于认知战的法律、规范和伦理真空之中。国际人道主义法或各种军备控制协议等管理国际使用武力的既有工具很可能不再是遏制国家行为的有效途径。在使用更传统的武力治理工具的同时，建立以颠覆性和认知战为重点的新国际治理框架，将创建一个全面的治理工具箱，全面涵盖国家和非政府主体在21世纪可用来胁迫和颠覆性的能力。