提升人工智能安全治理水平迫在眉睫

扫码订阅《中国信息安全》

邮发代号 2-786

征订热线：010-82341063

文 | 中共中央党校（国家行政学院）国际战略研究院教授梁亚滨

在二十届中央国家安全委员会召开的第一次会议上，中共中央总书记、国家主席、中央军委主席、中央国家安全委员会主席习近平发表重要讲话时强调，要全面贯彻党的二十大精神，深刻认识国家安全面临的复杂严峻形势，特别提到“要提升网络数据人工智能安全治理水平”。网络、数据和人工智能是现代社会重要组成部分，已经成为人们生产、生活和消费赖以运行的关键基础设施。随着重要性的提升，其所涉及和引发的安全问题日益严峻，提升网络数据和人工智能安全治理水平也成为总体国家安全观的题中之义。随着技术迭代速度加剧和应用范围日趋广泛，人工智能应用领域开始出现较为严重的技术滥用甚至“武器化”等安全问题。能否提高人工智能安全治理水平，不仅关系到人民群众对美好生活的向往，而且关系到国家的长治久安，甚至世界和平与稳定。

无论是日常生活中的衣食住行、生老病死，还是军事战场上的无所遁形和智能打击，无不显示出人工智能的强大能力。一方面，人工智能是一种能够给人类带来高赋能的工具，极大地提高了工作效率。无论是职场还是战场，人工智能赋能的工作往往都能够实现事半功倍的效果。尽管人工智能尚远未达到完全媲美人类智慧的程度，但是以 ChatGPT 为代表的人工智能正不断刷新人们的认知。另一方面，人工智能的发展潜力可能会以超越人类想象的速度和不可预知的方式进行迭代和进化。这不由得让人想起曾经被科幻小说家们无数次描述过的场景，引发人们对人类未来可能被机器控制的担忧。

当前，人工智能领域的安全问题主要表现在数据、算法和应用三个方面的风险。数据风险主要是指数据能够被顺利传输且不会被泄密，既有赖于维护网络服务所需要的基础设施，例如根服务器、海底光缆、关键零部件和设备等，也离不开网络运行所依赖的服务协议、加密系统以及各种具体的程序。所有这些软硬件共同构成了作为国家关键基础设施的网络。算法风险则是指如何对数据进行处理和应用。在特殊的算法下，人们可以从本来看似毫无意义的数据中挖掘出诸多关键、重要的信息。这些信息可能直接涉及国家安全，例如某个地区的经济、疫病、交通等情况，以及个人消费习惯和关键隐私等。此外，利用不同算法挖掘出来的重要信息未必是“真实”或“正确”的信息，有可能在应用中会“污染”民众的思想、价值观和意识形态，导致一系列社会安全问题。基于大数据和特殊算法诞生的人工智能，在应用中会进一步放大安全问题，既可以为非法数据侵入提供帮助，也能够散播错误、虚假信息，影响个别国家和地区的舆论，甚至影响政府决策，同样，也可以直接成为恐怖分子或犯罪集团的赋能工具。围绕数据收集、数据存储、跨境流动、算法应用、内容推送等问题所展开的国内法和国际法争议，越来越成为每一个个人、每一个企业和每一个国家之间双边和多边博弈的重要内容。脸书（Facebook）、推特(Twitter)、TikTok 等新型社交媒体的快速兴起和跨国界使用，加剧了这种博弈趋势，既涉及经济安全，也涉及政治安全。

2014 年，中共中央总书记、国家主席、中央军委主席、中央国家安全委员会主席习近平主持召开中央国家安全委员会第一次会议并发表重要讲话指出：“当前我国国家安全内涵和外延比历史上任何时候都要丰富，时空领域比历史上任何时候都要宽广，内外因素比历史上任何时候都要复杂，必须坚持总体国家安全观。”从总体国家安全观的角度看，人工智能安全突出表现为各国之间的“逐底”竞争。在缺乏明确规则的前提下，各国为了更快获取战略优势从两个方面着力从而引发越来越发严峻的安全风险。

一方面，全球科技领域的不正当竞争加大了国家安全风险。必须承认，网络、数据和人工智能在过去数十年的大发展在很大程度上取决于各国之间的合作。风险投资、技术突破和商业应用所形成的系统循环以及个人、企业和国家间的良性竞争与合作，是当今社会信息革命不断取得进步的关键要素。发挥比较优势是全球有效实现资源配置的关键，也导致了各国之间的相互依赖。相互依赖以一种矛盾的方式同时增强了国家和企业的韧性和脆弱性。国家和企业因为与其他国家和企业相互依赖而实现技术赋能，增强了应对各种风险挑战的能力。然而，一旦这种依赖被切断，国家的脆弱性会立刻暴露无遗，可能会遭遇釜底抽薪般的困境。近年来，随着大国地缘政治博弈加剧，一些国家不顾既有的国际规则，动辄单方面发动科技战，限制高科技产品（包括硬件和软件），向竞争对手国出口。这种强行切断既有依赖的做法，极大地放大了技术弱势国家的安全风险。高度依赖外部市场供给的关键零部件和软件一旦被断供或封锁，科技劣势国家正常的生活、生产和消费都有可能被中断。此外，科技竞争及其导致的脱钩也成为国家间政治博弈的关键手段，试图利用既有科技优势将对手限制在当前水平，使之无法获得继续升级迭代的机会。从发展的眼光看，将对手锁死在科技领域的“侏罗纪”时代，无疑会大大增强科技优势国家的综合实力。美国《芯片与科学法案》以政府补贴的方式强迫跨国高科技企业在中美之间选边站队，旨在确保美国的单方面技术优势，从而维持其霸权地位。这无疑极大增加了我国在科学技术领域被边缘化的风险。

另一方面，不顾人工智能科学伦理的无底线竞争，可能会引发更加严重却又意想不到的安全风险。在不顾一切的“逐底”竞争中，人工智能大概率会被各国列为优先发展和重点实现技术突破的领域，以便尽可能更早更强地在国际竞争中实现技术赋能。为了实现这一点，个别人、企业或国家可能会放任人工智能以不可预知的方式迭代进化，甚至可能会将关系人类生死存亡的决策权让渡给人工智能。为了提高效率，人工智能在一些国家的“武器化”问题几乎已经无法避免。被人工智能控制的电力、交通、金融等关系国计民生的关键基础设施服务可能在一场人工智能对抗中被全面摧毁，从而导致整个社会经济崩溃。此外，国际政治冲突中的危机管控将越来越难以控制，因为人工智能控制下的报复系统可能在瞬间就完成过去人类需要数小时甚至数天才能完成的危机升级进程。1962 年古巴导弹危机期间的惊魂十三天，如果在人工智能加持下，可能连 13 秒都无法坚持就突破了使用核武器的临界点。因此，人工智能武器的管控和扩散问题在未来必将成为国际政治中的重要议题。2023 年 5 月底，国际人工智能领域非营利组织人工智能安全中心（Center for AI Safety）发布了一封只有 22 个单词的简短英文公开信，警告人工智能的威胁等同核战和大流行病，可能毁灭人类文明，敦促政策制定者将降低其带来的灭绝性风险作为全球优先事项。超过 350 名人工智能、气候、传染病等各领域教授和学者在信中联合署名，其中包括 ChatGPT 之父、OpenAI 创始人兼 CEO 萨姆·阿尔特曼和谷歌 DeepMind 公司 CEO 戴米斯·哈萨比斯等人。

在科技快速发展的时代，后退和驻步绝对不是解决技术问题的可行选择，因此，提高人工智能安全治理水平迫在眉睫。党的十九届五中全会确定的 2035 年目标强调实现关键核心技术的重大突破。党的二十大报告明确提出，要实现高水平科技自立自强，建成科技强国。治理水平的提高，在我国应该优先体现在坚持和加强党的全面领导前提下，能够为实现人工智能领域的技术突破、提升我国数字实力创造良好科学与商业环境，能够通过技术进步不断突破美西方国家对我国实施的技术封锁。在全球治理层面，本着为全人类负责的态度，各国应加强合作，对人工智能发展实施必要的监管，始终确保技术为人类服务，而非相反。在全世界建立类似核禁忌的人工智能禁忌，通过国际法规范各国人工智能的开发、应用和扩散，确保技术进步的前进方向应该成为各国共同努力的方向。

（本文刊登于《中国信息安全》杂志2023年第6期）

《中国安全信息》杂志倾力推荐

“企业成长计划”

点击下图了解详情