2023年国内外网络安全法规政策系列盘点（四）：技术发展与治理篇

《技术发展与治理篇》是《2023年国内外网络安全法规政策系列盘点》的第四篇。主要对涉及网络安全技术的法规政策进行专题梳理和点评。

从内容看，本年度技术发展与治理类法规政策主要涵盖个人信息审计机制、特殊群体保护、区域性个人信息跨境共享机制等。

1. 国家互联网信息办公室发布《生成式人工智能服务管理办法（征求意见稿）》

http://www.cac.gov.cn/2023-04/11/c_1682854275475410.htm

【绿盟观点】伴随ChatGPT的爆红网络，生成式人工智能（AGI）技术及其安全性问题，日益成为全球关注的焦点。各国纷纷出台或更新法规政策，加强对人工智能发展和安全管理，如美国于2023年4月11日发布《人工智能问责政策（征求意见稿）》、欧盟于2023年3月14日出台《人工智能和标准化的网络安全》等。

近年来，我国高度重视人工智能，已出台了《关于加快场景创新以人工智能高水平应用促进经济高质量发展的指导意见》《新一代人工智能发展规划》《国家新一代人工智能标准体系建设指南》等政策文件，从战略、产业、标准等方面加强对人工智能发展的宏观部署。

本次发布的《征求意见稿》与此前人工智能相关规范文件相比，具有3个显著特点。一是规范对象的具体化，《征求意见稿》聚焦“生成式人工智能产品”这一特定对象、提出了具体的监督管理举措。二是突出保发展、促成长的主旨，这一特点充分体现在突出服务提供者主体义务、对法律责任作出原则性规定等方面。三是提出了“准入+义务+责任”的新型监管模式：在“准入”方面以“安全评估”、“算法备案”为基本要求；在“义务”方面，提出了技术、服务、客户管理三类主要义务；在“责任”方面，主要明确了法律责任的依据。当然，《征求意见稿》对于生成式人工智能产品和服务管理的覆盖范围、关键环节、潜在风险等是否完善，仍是目前各界研究和讨论的热点。

2. 国家互联网信息办公室等七部门联合印发《生成式人工智能服务管理暂行办法》，强化生成式人工智能监管

http://www.cac.gov.cn/2023-07/13/c_1690898327029107.htm

【绿盟观点】当前，生成式人工智能（GAI）主要存在三类安全风险。从数据方面看，生成式人工智能面临的潜在风险主要有数据质量、数据保护机制和数据的真实性；从算法方面看，生成式人工智能面临的潜在风险主要是认知安全问题；从算力方面看，生成式人工智能面临的潜在风险主要有成本问题和生态问题。

从国内外相关制度实践来看，《办法》是目前国际上为数不多的已正式生效实施的生成式人工智能专项管理制度之一，其为生成式人工智能制度乃至立法实践提供了重要蓝本和方案。

从网络安全产业发展来看，《办法》的施行将产生积极影响。一是安全需求的明确，将为网络安全相关产业带来增量市场机会。如对于训练数据的合规和安全评估、服务提供过程中的数据和个人信息保护、监督检查过程中的安全技术支持、安全可信相关配套等等。二是对于发展要素的培育强化，将为网络安全产业的技术创新赋能。如“公共训练数据资源平台”、“人工智能基础设施”等算力和数据要素，将极大缓解企业在生成式人工智能开发过程中的能力短板；生成式人工智能生态体系的构建，也将为企业的生成式人工智能开发注入新的活力。

从制度的健全完善角度来看，以下几个问题或许值得进一步完善和细化。一是法规的体系化方面，除《办法》外，涉及生成式人工智能技术管理相关的规定还有《互联网信息服务深度合成管理规定》《互联网信息服务算法推荐管理规定》等，不同规定之间的竞合问题需要进一步梳理完善，且作为总体性规范的《互联网信息服务管理办法》也亟需加快推进修订。二是在监督检查机制方面，《办法》提出了不同部门按照职责开展检查的机制，对于不同部门之间的监督检查如何协调统筹，也有待进一步细化。

3. 国家互联网信息办公室发布《人脸识别技术应用安全管理规定（试行）（征求意见稿）》，属首部人脸识别技术应用安全监管政策

http://www.cac.gov.cn/2023-08/08/c_1693064670537413.htm

【绿盟观点】近年来，各国针对人脸识别技术发展均出台了相应监管政策，如美国联邦贸易委员会就“滥用生物特征信息及其对消费者造成的危害”发布政策声明、欧洲数据保护委员会通过《关于在执法领域使用面部识别技术的指南》等。

《征求意见稿》是我国首部针对人脸识别技术应用安全的专项政策草案，其提出的事前影响评估、备案管理、设备安全检测等制度，对建立健全我国人脸识别安全管理体系具有重要作用。当然，目前《征求意见稿》在内容上还是更侧重于网络层面，而对于数据层面的问题诸如存储安全、个人信息数据使用情况监测检查等，尚未设置相关专属监管机制，这或许是下一步完善的一个方向。

对网络安全行业而言，可重点关注两点。一是，需深入学习《征求意见稿》有关要求，合理管控自身合规风险。二是，安全需求的明确或将为网络安全相关产业带来增量机会，如特定场景下的人脸识别技术网络风险评估、相关应用系统的等级保护、密评检测等。

4. 工业和信息化部发布《关于印发<“5G+工业互联网”融合应用先导区试点工作规则（暂行）><“5G+工业互联网”融合应用先导区试点建设指南>的通知》

https://www.miit.gov.cn/zwgk/zcwj/wjfb/tz/art/2023/art_8cf1d738035c404dbedaf9074657992a.html

【绿盟观点】工业互联网是制造强国和网络强国两大战略的衔接点，国家此前在“国家制造强国建设领导小组”下专门设立了工业互联网专项工作组，统筹推进国家工业互联网发展。“5G+工业互联网”融合应用先导区建设即是工业互联网专项工作组“年度工作计划”的重要目标任务之一。

《“5G+工业互联网”融合应用先导区试点工作规则（暂行）》将“发生重大网络安全事件、重大安全生产事故等情况”作为评价先导区试点工作的否决性指标，这充分体现了网络安全在“5G+工业互联网”融合应用整体工作中的重要意义。后续，如何推进先导区工业互联网安全分类分级管理等工作，也是值得网络安全业界期待的重要关注点之一。

1. 美国CISA发布《零信任成熟度模型》（第二版），完善国土安全领域零信任实施规范

https://www.cisa.gov/news-events/news/cisa-releases-updated-zero-trust-maturity-model

【绿盟观点】近年来，美国政府高度重视对“零信任”的战略部署，联邦相关部门先后发布了一系列零信任相关政策和规范，如：《推动美国政府向网络安全零信任原则迈进备忘录》（白宫）、《拥抱零信任安全模型指南》（国家安全局）、《国防部零信任战略》（国防部）、《零信任架构》（商务部 NIST）、《基于零信任架构的企业移动安全计划》（国土安全部 CISA）等。

本次发布的《零信任模型》进一步完善了美国国土安全领域零信任的实施规范，并在《零信任成熟度模型1.0》基础上，对零信任成熟度阶段、关键支柱的功能、评估指标与描述等方面做出更新。

目前，我国正在积极推进零信任相关政策及标准制定。此前发布的《网络安全产业高质量发展三年行动计划（2021-2023年）》，对零信任相关技术研发和产业化已提出了发展举措；也正在推进零信任专项标准的研发，如《信息安全技术 零信任参考体系架构》（征求意见稿）等。

美国国土安全部发布的零信任相关政策战略和标准规范，在具体内容和实施方式上均或有可借鉴之处。如美国对零信任划分不同发展阶段，并以“功能支柱”的形式，对各阶段零信任发展目标水平做出明确分解等。此外，该标准所重点关注的一些关键技术，也可辅助成为我们开展零信任技术攻关、产品方案研发等工作的参考方向，如可见性分析、自动化和编排、网络弹性等。

2. 美国白宫发布《关键和新兴技术的国家标准战略》，巩固和加强技术竞争力

https://www.whitehouse.gov/briefing-room/statements-releases/2023/05/04/fact-sheet-biden-harris-administration-announces-national-standards-strategy-for-critical-and-emerging-technology/

【绿盟观点】自拜登政府上任以来，高度重视国际标准体系建设，尤其是在新兴技术等领域，并试图借此强化在相关领域的影响力，以维护美国在全球科技创新领域的领导地位。

《关键和新兴技术的国家标准战略》可以给我们带来三点思考。一是，标准不仅是规范和促进技术发展的手段，更是开展技术竞争的重要阵地，技术标准领域的国际话语权，已经成为当前反映各国技术创新竞争力的核心指标之一。二是，标准战略并非仅限于技术本身，而是涵盖与技术相关的诸多关键要素，并且这些要素对于标准的发展往往具有更加重要的决定作用，例如《战略》所强调的投资、合作、人才等等。三是，美国作为全球领先的技术强国，其技术标准战略或对我有重要参考意义，如《战略》所提出的重点技术框架及其关键技术方向，包括半导体和微电子、人工智能等，已经或正在引领着全球技术创新和变革的方向。对此，我们不仅需要加强布局和储备，更可以从中寻求可以实现换道超车的潜在机会。

3. 美国白宫科技政策办公室发布2023版《国家人工智能研发战略计划》，优化AI研发方向

https://www.whitehouse.gov/wp-content/uploads/2023/05/National-Artificial-Intelligence-Research-and-Development-Strategic-Plan-2023-Update.pdf

【绿盟观点】从时间轴来看，2023版《国家人工智能研发战略计划》（以下简称《战略计划》）是对2019版《国家人工智能研发战略计划》的更新，重申了之前的8项战略目标并对各战略的具体优先事项进行了调整和完善，还新增了第9项战略即强调国际合作。本次更新版本的发布，既是延续每三年定期评估和调整美国人工智能战略的惯例，也反映了美国政府对于人工智能技术的最新要求和发展重点。

从横向部门政策对比来看，近期美国政府各部门陆续发布了一系列人工智能相关政策和行动，但侧重方向有所不同。如标准建设方面，美国NIST发布《人工智能风险管理框架》；AI工具审查方面，美国国家电信和信息管理局发布《人工智能问责政策（征求意见稿）》；机构设置方面，美国国土安全部宣布成立首个人工智能工作组、美国国家科学基金会将拨款1.4亿美元建设7个新的人工智能研究中心；AI培训方面，美国教育部发布报告研究AI在教育和学习中面临的风险和机遇等等。

《战略计划》及美国其他相关部门的一系列AI政策，对完善我国AI管理的政策法规体系或有其参考借鉴意义，主要包括其“分工协同”的管理思路，即以战略规划的方式明确AI研发方向，其他各部门也结合职能定位从不同方面做出各自安排，形成合力。此外，在该战略所列明的关于AI安全的技术保护措施方面，如对抗AI数据操纵、红蓝对抗、漏洞挖掘等，对于我国开展AI网络安全的技术创新演进，也有一定的参考价值。

4. 美国白宫更新《利用安全的软件开发实践增强软件供应链的安全性》备忘录，强化软件供应链主导权

https://www.whitehouse.gov/wp-content/uploads/2023/06/M-23-16-Update-to-M-22-18-Enhancing-Software-Security.pdf

【绿盟观点】《利用安全的软件开发实践增强软件供应链的安全性》（以下简称《备忘录》）是美国保持其政策连贯性、发挥软件供应链政策双重战略价值的方式。一方面，软件供应链政策的对内价值在于维护其自身软件供应链的安全和连续性；另一方面，软件供应链政策的对外价值在于可作为一种战略手段或筹码，维护美国在相关技术产业生态中的主导权，也常伴随出口管制等常见管理手段。

《备忘录》也反映出目前美国联邦机构落实软件供应链安全监管的现实状况。一方面，从第14028号行政令的时间进度表来看，部分重要任务的实施进度已经滞后。另一方面，《备忘录》延长了各联邦机构从软件生产制造商获取证明文件的截止日期，为实际规则的落地实施预留了一定灵活空间。

由于美国在信息技术多个领域处于领先地位，故其发布的关于软件供应链安全管理方面的实践，也极有可能会在一定范围产生示范效应，某些程度上会促进其他国家完善软件供应链相关管理机制和规范、并加强自身软件供应链供给能力建设。

5. 美国国家标准和技术委员会发布《网络安全框架2.0》草案，加强网络安全风险管理

https://www.nist.gov/news-events/news/2023/08/nist-drafts-major-update-its-widely-used-cybersecurity-framework

【绿盟观点】伴随新形势下网络安全风险的变化，NIST《网络安全框架》也随之进行动态更新。2014年2月，NIST发布《改进关键基础设施网络安全框架》（《框架1.0》）；2018年4月，NIST发布《框架1.1》版本；2023年4月，NIST发布《框架2.0》核心讨论草案。

本次发布的《框架2.0》主要对《框架1.0》进行了如下三方面的更新。第一，扩大了覆盖范围。《框架2.0》直接更名为“网络安全框架”，此前两个版本的官方名字都是以关键基础设施为对象，体现该框架进一步扩大了适用范围。第二，强化网络安全治理。在《框架2.0》中，“治理”调整到与其他的5个核心功能平级，反映了美国政府对于网络安全治理的重要性认知。第三，强调供应链风险管理。《框架2.0》提供了更多关于如何评估和管理供应链中的安全风险的内容，反映了美国政府日益加强对供应链安全的重视程度，并致力于从供应商和合作伙伴处获取的产品和服务的安全性。

《框架2.0》是网络安全不断适应环境变化和各方最新需求的体现，也反映出美国政府通过扩大标准适用范围，来推进其网络安全国内标准国际化的意图。

6. 美国NIST发布三份后量子密码标准草案，推动后量子密码技术发展

https://www.nist.gov/news-events/news/2023/08/nist-standardize-encryption-algorithms-can-resist-attack-quantum-computers

【绿盟观点】量子计算是当前国际科技竞争的前沿领域之一，大国纷纷在国家战略层面布局量子科技的发展。各国关注的重点内容，多聚焦于量子计算、量子加密、后量子密码等。NIST在2017年就启动了后量子密码学算法标准化研究，本次公布的标准草案是2022年7月份选定的四种后量子密码算法中的三种算法标准，第四种算法的标准草案按计划也将于一年之后发布。

我国也高度重视量子科技领域的研究与应用。在标准层面，我国目前已颁布两项国家标准：《量子计算 术语和定义》（GB/T 42565-2023）、《量子保密通信应用基本要求》（GB/T 42829-2023），将分别于2023年12月和2024年3月起实施。

后量子密码研究中有关网络安全方面的问题，值得网络安全企业重点关注。例如：加强对量子攻击技术的跟踪观测，提升监测预警能力并制定应急响应方案；对处于两种密码体系更替阶段的重要系统构建全方位防护体系，为客户增强系统网络安全韧性等。

7. 美国参议院召开听证会审议《两党人工智能立法框架》，强化AI安全保护

https://www.judiciary.senate.gov/committee-activity/hearings/oversight-of-ai-legislating-on-artificial-intelligence

【绿盟观点】目前，人工智能安全监管是很多国家政策法规建设关注的重点领域。美国联邦政府将人工智能列为网络安全研究6大关键方向之首（《联邦网络空间安全研究和发展战略规划（2019-2023）》），并通过发布《国家人工智能研发战略计划》（白宫）、《人工智能风险管理框架》（NIST）等政策文件，对AI的可解释性、风险管理、责任机制、专职机构等做出规定。欧盟发布《人工智能法案》草案，侧重于关注AI系统的具体利用及其风险。我国也已将“人工智能法草案”列入国务院2023年立法工作的预备提请审议计划中，并正式发布了《生成式人工智能服务暂行管理办法》等规章。

《两党人工智能立法框架》提出了许多具体的监管制度和机制，如建立独立监管机构对模型开发公司进行审核、推动AI开发企业为模型输出内容承担责任制、以及利用出口管制等法律政策限制AI系统转让等。这些对于丰富当前各国的AI立法实践，规范和引导相关产业健康发展等，都具有一定的示范意义。

8. 美国国土安全部网络安全与基础设施安全局发布《人工智能路线图》

https://www.cisa.gov/news-events/news/dhs-cybersecurity-and-infrastructure-security-agency-releases-roadmap-artificial-intelligence

【绿盟观点】《人工智能路线图》（以下简称《路线图》）概述了CISA拟在网络安全领域落实人工智能安全的具体举措，旨在落实此前拜登政府签署的《关于安全、可靠和可信任地开发和使用人工智能的行政令》（以下简称《行政令》）。近期以来，美国政府频繁发布一系列人工智能监管政策法规，如《国家人工智能研发战略计划》《人工智能风险管理框架》《2023年人工智能研究、创新和责任法案》等，充分反映了美政府对人工智能安全的高度重视。

此前，美国政府对人工智能的关注点主要在其可解释性、可追溯性等方面，《路线图》则将关注点进一步体系化，扩展到包括国际合作、关基保护、人才培养等在内的多个领域。当前，我国《生成式人工智能服务管理暂行办法》已正式生效，在立法进程上占据一定先机，但加强对美国人工智能关注重点的跟踪研究，对于持续完善健全我国人工智能监管制度体系仍具有重要参考意义。

9. 欧洲议会与欧盟理事会就《人工智能法案》达成临时协议

https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai

【绿盟观点】该法是全球第一部关于人工智能的综合立法。其延续了欧洲注重个人信息保护、严格违法惩处等立法传统，在达成临时协议后，相关机构将继续在技术层面进行细化明确，并向成员国代表提交最终文本以供批准。法案对于人工智能系统的限制性规定、高风险模型的监管要求、以及鼓励创新的“法规沙盒”等举措，都或将为其他国家的人工智能立法带来启示和参考借鉴。