赋能与挑战：人工智能时代的国家安全

文 | 西安交通大学教授 马晓悦；中国传媒大学副教授 邹欣

当前，人工智能技术发展迅速，日益推动社会向数字化、智能化方向迈进。随着数据量大幅增长、计算能力显著提升、深度学习算法的突破性应用，人工智能技术在诸多行业的渗透度明显提升。从发展方向和实际运用看，人工智能可大致分为运算智能、感知智能和认知智能三个维度。运算智能主要指快速计算和记忆存储能力；感知智能以计算机视觉、语音交互等为核心底层技术，对应的应用为智能客服、智能安防、自动驾驶等；认知智能以机器学习、深度学习、自然语言处理和知识图谱为核心底层技术，对应的应用为预测建模、大数据管理、人工智能生成内容等。当下，人工智能技术已为多个行业的发展提供助力，不断赋能金融、零售、医疗、文娱等各行业领域数字化、智能化转型升级。新兴技术的发展往往会对社会造成超出固有认知的影响，人工智能技术作为第四次工业革命中信息技术领域重要的革新发展方向，其对国家安全的影响也促使其成为整个社会重要的研究和探索方向。人工智能技术作为一次重要的技术革命能够极大提升社会治理水平，从技术层面为国家安全领域问题提供新的解决方案。同时，人工智能给国家安全所带来的新型挑战也不容忽视。客观评估这一技术所带来的机遇与风险，积极做出相应的政策部署、制度优化与监管防范，是推动技术正向发展的关键。

当下，人工智能技术对国家安全保障的作用主要体现在其通过数据智能驱动进而实现辅助决策上。基于对国家社会各领域数据的挖掘、聚合与清洗，再通过技术模型计算风险概率和发生路径，能够为关键信息基础设施和国家社会安全运行的重大态势提供智能化感知和预测，并及时把握群体认知及心理变化，从而为主动决策提供支撑。目前，人工智能技术已被应用于危机预测、反恐、网络安全、金融监管等多个领域。

(一）提高危机事件的预测与管理能力

人工智能技术在危机预测方面具有比传统预测分析手段更强的能力，在扩大危机预测的适用范围、提高预测的准确性和时效性等方面都表现优异，能够为维护社会稳定构建一种预测型防护机制。人工智能在危机预测方面能够依托数据基础、算法优化和算力，建立实时、高效和精准的预防性社会稳定防护机制。通过扩大数据收集、减少信息未知性以及建立相关分析模型，利用人工智能技术针对战争冲突、传染病扩散、气象灾害等危机事件的预测与分析，可以提前介入，以便阻断社会风险传播与恶化，遏制或减少社会风险带来的负面影响。

(二）赋能反恐方案制定，推进社会治理智能化建设

基于对已有恐怖主义活动案例以及其他犯罪数据的分析，人工智能可以对潜在的恐怖活动或犯罪活动的目标、组织及其可能行为进行预判，并据此制订相应的反恐方案。尤其重要的是，深度算法提升了人工智能对恐怖分子的语音和图像处理能力，对反恐侦察活动助益较大。此外，在社会治安防控方面，通过声纹识别、人脸识别和图像叠加技术等人工智能技术，相关部门能够更好地进行嫌疑人辨别与追踪、犯罪现场搜索、城市交通管理、排列警务任务及分配警力资源、开展救援活动，并提升治安部门识别、预防和打击犯罪行为的能力，提高安防活动的整体运行效率。

(三）预测网络攻击威胁，提供有效网络安全防护手段

人工智能技术能够为威胁检测、事件响应、欺诈检测和漏洞管理提供更高效的技术支撑。人工智能在网络威胁检测领域的应用最为突出，一方面，人工智能可以基于历史数据，开发基于过去行为预测未来威胁的模型，使安全团队能够在潜在攻击发生之前做好准备，而非被动响应。另一方面，人工智能通过推动端点检测响应和网络检测响应，能够在信息交互的过程中识别和防止勒索软件、恶意软件、分布式拒绝服务（DDoS）攻击等恶意在线威胁，提前阻断潜在的风险，提供更有效的网络安全防护手段。

(四）保障金融安全，提高金融监管有效性和精准度

人工智能技术对国家金融监管转型也具有重要意义，将驱动金融监管部门走向法律控制与技术控制相结合的综合治理机制，提升金融监管水平。通过视觉识别、知识图谱、机器学习等人工智能技术，监管部门将能够智能清洗碎片化的金融数据，识别异常数据和异常行为，识别和判定金融风险。以人工智能为基础的智能金融风控技术，也能够帮助金融监管部门更加精准地实施监管。通过构建多维度、全方位的交易检测与验证模型，人工智能技术可以为金融监管部门提供高效的反洗钱、反欺诈以及信用评估机制，助力保障国家金融安全。

当前，随着国际局势的急剧变化，中国面临的内外部安全风险和挑战更趋复杂。人工智能技术在带来广泛应用前景和战略价值的同时，在产业竞争、敌对势力颠覆渗透、虚假信息传播、军事技术竞赛等领域的国家安全风险日益凸显，正成为我国相关领域国家安全保障面临的新挑战。

(一）或催生产业竞争、大范围失业及网络经济战风险，对国家经济安全造成影响

核心科技竞争是世界主要大国战略竞争的重点，也是影响国家经济安全的核心。当前，传统发达国家正依靠技术优势和雄厚的资金支持，率先启动人工智能的全球竞赛，期望以人工智能技术引发新一轮技术革命，以期达到重塑经济实力平衡的目的。随着基于人工智能技术对产业价值链的改造，全球产业分工或重新分配，技术塑造的新的财富生产和分配方式甚至可能颠覆原有的政治经济秩序。若中国人工智能产业发展在本轮科技竞争中落后于美国等西方国家，将会在很大程度上很难融入新的全球价值链市场，从而更广泛地加剧国家之间的不平等。

人工智能也可能会诱发大范围失业风险。人工智能在提高劳动生产率方面效果显著，同时也诱发了人们对大规模失业的担忧。人工智能技术对就业以及劳动力市场造成的冲击，会进一步引发社会秩序混乱，对国家经济安全造成冲击。就技术本身而言，利用人工智能技术摧毁一个国家的经济网络，也是不容忽视的风险。基于人工智能分析目标经济体的海量数据实施经济破坏任务，或者通过社会操纵制造有针对性地宣传引起金融恐慌，正成为国家层面经济政策制定者需要考虑的现实问题。

(二）或促使资本团体和敌对势力利用人工智能技术攫取权力实施颠覆活动，增加政治安全风险

在人工智能时代，不仅国家权力机构掌握“数据权力”，个人、企业团体、社会组织等非国家行为体也掌握“数据权力”。商业巨头实际上掌握了目前人工智能领域的大部分话语权，并逐步形成行业垄断。资本团体通过对人工智能技术和产业发展的投入，逐步垄断技术、控制数据，这将进一步分散由国家所掌控的金融、信息等重要权力，由此也带来了资本团体插手政治事务的风险。人工智能技术使互联网结构呈现“多节点、无中心”状态，使连接互联网的每一个节点都具有平等地位。这也使国家治理结构和政治话语权发生转变，打破了原先由政府主导的单向治理模式，由此大大增加了国家治理难度，增加了政治安全风险。

人工智能技术也有被敌对势力利用用于颠覆活动的风险。在 2020 年美国总统大选期间，机器人账号发布了海量虚假信息，科技企业利用人工智能技术带来的海量数据和准确的算法，为竞争性选举施加针对性影响。一旦人工智能技术被敌对势力所利用，攻击一国人工智能系统或利用人工智能实施渗透、颠覆、破坏、分裂活动，将会大大增加政治安全风险。

(三）虚假信息借助人工智能技术深入网络空间传播，对国家文化产生负面影响

人工智能技术若被资本集团所操控，就会让资本主动或被动地控制网络意识形态。以在文娱领域应用最广的算法推荐技术为例，由于算法推荐技术遵循“流量为王”的价值取向，会造成网络空间意识形态紊乱。只推送用户感兴趣的内容，使用户所接收到的信息越来越同质化和低俗化，娱乐主义、消费主义等一些非主流意识形态会借助算法推荐技术，不断在网络空间扩张影响力。这种以算法推荐为核心的信息传播方式，会导致主流价值观无法覆盖更广大的受众，极大缩窄了主流意识形态的传播效力。

历史虚无主义、民粹主义等西方错误社会思潮以及相关虚假信息也会利用人工智能技术在网络空间广泛传播，对国家意识形态安全产生冲击。自 ChatGPT、深度伪造等人工智能技术引发关注以来，屡次因可能增加虚假信息风险遭舆论诟病。ChatGPT 既能生成虚假的新闻文章，也可以生成虚假的政策文件、政府公文等进行信息欺诈，其话语结构、用词特点等与真人高度相似，易误导受众甚至带偏网络场域风向。此外，自然语言处理技术和深度伪造技术，也存在被不法分子利用的可能，用以大肆传播恐怖主义、分裂主义思想，试图达到破坏民族团结、颠覆政权的目的，将对国家价值导向造成严重威胁。

(四）或诱发人工智能军备竞赛、非预期事故，加大各类新型军事安全威胁

目前，美、俄等军事大国正竭力推进人工智能的军事应用，希望在新一轮军事技术革命中占据先机，这也使全球人工智能军备竞赛愈演愈烈。例如，美国将人工智能视为第三次“抵消战略”的核心，建立“算法战跨职能小组”，筹划基于人工智能的算法战。2017 年 1 月，普京要求建立“自主机器复合体”（Autonomous Robotic Complexs）为军队服务。由于人工智能的军事应用存在诸多不确定性，容易带来非预期事故的发生。一方面，交战双方部署的人工智能系统交互产生复杂联系，这种复杂性远远超出一个或多个弱人工智能系统的分析能力，这会进一步加剧系统的脆弱性，发生事故和出错的概率将大大增加。另一方面，人工智能机器存在可解释性差、学习性弱、缺乏常识等短板，人机协同困难性大大增加，或将放大发生非预期事故乃至战争的风险。因此，大国间在人工智能领域的军备竞赛将会危及全球战略稳定，对国家安全带来严重威胁。

人工智能在核、太空等领域的跨域军事应用也将给军事安全带来诸多风险。例如，人工智能应用于核武器系统可能会强化“先发制人”的核打击动机，人工智能增强下的网络攻击将对核武器的可靠性构成新的威胁，在战时有可能极大削弱国家威慑力、破坏战略稳定。人工智能在太空领域的应用可能对全球战略稳定和军事安全带来破坏性影响。例如，在人工智能的加持下，传统的反卫星手段将变得更加精准、更具破坏性、更难追溯，从而加大“先发制人”的动机，寻求先发优势。

从人工智能的发展趋势看，未来的人工智能技术将进一步从专用智能向通用智能发展。当下，人工智能技术普遍在一个行业赛道深耕，例如对语音交互技术与深度学习技术各自开发一款技术产品，并不能将二者融合，形成一种范围广、集成度高、适应能力强的通用智能产品。未来，随着科技的发展，人工智能技术将减少对领域知识的依赖性，提高处理任务的普适性，通用人工智能将具备执行一般智慧行为的能力，同样具有感知、意识和直觉等人类特征，以此发展出来的人工智能应用将消除各领域之间的应用壁垒。另一方面，人工智能技术将从感知智能向认知智能方向发展。业界指出，早期的人工智能主要是运算智能，注重快速计算和记忆存储能力。当前应用范围最广的人工智能技术是感知智能，注重视觉、听觉、触觉等感知能力。随着类脑科技的发展，人工智能必然会从感知智能向认知智能迈进，即让机器像人一样能够思考。ChatGPT 等人工智能生成技术，就是认知智能技术蓬勃发展的真实写照。未来，随着人工智能技术进一步向通用智能发展，美国等西方国家对我国技术封锁或将持续升级，如何应对“技术边缘化”所带来国家经济与科技安全风险，以及敌对势力滥用通用人工智能技术对我国展开渗透等安全风险，亟需成为整个国家和社会深入研究的新课题。为此，需从强化人工智能风险研判、实施重点技术突破、构建预警机制等角度入手，利用人工智能技术打造符合国家安全利益的新防护网。

(一）强化人工智能应用风险研判，创新技术治理模式

人工智能技术具有高度专业性和复杂性，政府机构往往远离技术前沿，因此，相关部门强化风险意识尤为重要。可在国家层面建立健全人工智能监管体系，对算法设计、产品开发、数据采集和产品应用实施全流程监管，加强对违规行为的惩戒，督促人工智能行业和企业自律。尽快成立国家层面的人工智能安全咨询专家组，密切跟踪技术和应用的发展，定期研判人工智能可能带来的政治、经济等风险，提高风险识别、防范和处置能力。积极开拓创新技术治理模式，针对人工智能技术带来的权力“去中心化”趋势，积极构建政府主导和企业、研究机构、技术专家、公众等多方参与的人工智能治理体系。

(二）聚焦人工智能技术短板，实施重点突破

人工智能核心技术受制于人或将带来经济风险、政治风险、军事风险等一系列国家安全风险，因此，牢牢把握人工智能技术发展的主动权尤为关键。一方面，需强化国家引领作用，通过政策引导和资金支持，适时打造国家级人工智能研发平台。另一方面，充分利用新型举国体制强大的资源调配能力与组织动员能力，努力在人工智能发展方向和基础研究上取得变革性、颠覆性突破，同时，从智能芯片、基础算法、关键部件等入手，加快核心技术创新领域的关键性突破，确保我国在人工智能这一重要领域占领关键核心技术制高点。此外，需注重人才建设，在加强国内人工智能人才培养的同时，注重吸引国际人才，为国内人工智能技术发展提供人才支撑。

(三）构建预警机制，提升主流价值传播效能

为避免非主流意识形态借助人工智能技术实现大范围传播，应强化人工智能技术的正向使用，打破非主流意识形态与人工智能技术的结合，让主流意识形态在社会中牢牢占据优势和主导地位。可利用人工智能技术构建网络意识形态风险预警体系，依托算法推荐、深度学习等技术截断非主流意识形态与网络空间的连接，精确打击与严肃追责人工智能产品危害国家网络安全和道德底线的违法行为。可以将算法推荐、大数据分析、生物识别等技术融入主流意识形态生产、传播、呈现和反馈的各个环节，利用人工智能技术辅助主流意识形态在网络空间传播，提升主流意识形态传播效能。