美国多措并举加强人工智能安全风险管控研究

2.1　注重顶层设计，强化人工智能安全风险政策标准制定

早在 2019 年 2 月，美国时任总统特朗普就签署第 13859 号行政令《美国人工智能倡议》，提升美国在人工智能领域的领导地位，加强人工智能创新，增强国家安全。拜登政府上台后，更是将人工智能视作技术力量对决的中心，同时更加重视人工智能技术的安全部署应用。

2023 年 10 月，拜登签署第 14110 号行政令《关于安全、可靠和值得信赖的人工智能》。该行政令是拜登签发的首份关于人工智能安全发展的监管规定，旨在确保美国在把握人工智能前景、管理人工智能风险等方面处于世界领先地位，该行政令主要从 8 个方面采取行动。一是加快制定人工智能安全标准。要求人工智能系统开发者与美国政府分享关键信息及安全测试结果；制定标准、开发工具和测试方法，以确保人工智能安全可靠；制定检测人工智能生成内容的标准，保护美国免受人工智能带来的欺骗；实施网络安全计划，开发智能化工具，以发现和修复关键软件中的漏洞；由国家安全委员会和白宫协调制定国家安全备忘录，以指导人工智能和安全方面的行动。二是保护隐私。加强数据隐私保护，为联邦机构制定指导方针，评估隐私保护技术的有效性。三是促进公平与美国公民权利。通过培训、技术援助等手段协调司法部门等机构调查和起诉与人工智能有关的侵权问题。四是维护消费者、患者和学生权益。加强人工智能在医疗领域应用的风险评估，支持人工智能技术在教育领域的广泛应用。五是支持劳动者。编制人工智能对劳动力市场潜在影响的报告，加强对因人工智能而面临失业的劳动者支持。六是推动创新和竞争。加速人工智能商业化进程，促进公平、开放和竞争的人工智能生态系统。七是提升美国海外领导力。加强与国际合作伙伴和标准组织合作，推进可持续发展，减轻关键基础设施危险。八是确保政府负责任和有效使用人工智能。改善采购流程，建立高效、快速的签约模式 。

为落实上述行政令要求，美国国防部和国土安全部网络安全与基础设施安全局（Cybersecurity and Infrastructure Security Agency，CISA）先后发布战略文件，推动各自职责范围内领域人工智能安全管控。2023 年 11 月，美国国防部发布《数据、分析与人工智能采用战略》，通过强化风险分析，提高人工智能应用过程中数据治理与数据质量，降低各类突发安全风险，同时加强数据管理，提升先进分析能力，推进人工智能在国防领域的部署应用 。该战略指出，美国国防部将加强数据管理、网络安全、情报和信息共享等方面的管理，加快政策制修订，以不断提高政策适用性与灵活性。此外，美国国防部还将着力构建良好的人工智能生态系统，通过与政府部门、学术界和工业界合作，加强数据分析共享，构建促进竞争与协作的生态系统。

2023 年 11 月，美国国土安全部 CISA 发布《人工智能路线图》，指导人工智能的安全开发和应用。该路线图提出 5 项重点工作。一是负责任地使用人工智能来支持工作。使用人工智能加强网络防御，支持关键基础设施保护，在符合法律和政策要求的基础上，负责任地安全使用人工智能。二是评估和测试人工智能系统。协助联邦政府、私营部门，以及州、地方政府机构制定安全、有弹性的人工智能开发和实施指南，包括生成式人工智能红队计划。三是保护关键基础设施，防止恶意使用人工智能。美国国土安全部 CISA 将与开发、测试和评估人工智能工具的机构或组织合作，评估美国关键基础设施面临的人工智能威胁，围绕与人工智能系统相关的威胁、漏洞和缓解措施的工作协同沟通。四是加强国际合作。与国际组织和机构就关键的人工智能工作进行协作和沟通，推进全球人工智能安全最佳实践和应用。五是建设具有人工智能专业知识的人才队伍。继续加强员工培训，使其具备招聘具有专业知识的技术人员和专业人才的能力。

2.2　设置专门机构，以“负责任和安全”的方式应用人工智能

在国家层面，美国国土安全部于 2023 年4 月成立了人工智能工作组，推动人工智能具体应用，制定人工智能技术应用及人脸识别技术指南，审查人工智能的潜在安全风险和可利用之处，如分析 ChatGPT 等生成式人工智能系统的不利影响及新兴技术的潜在用途，重点包括供应链管理，采用人工智能技术对犯罪行为进行取证等。2023 年 11 月，CISA 发布第一版《人工智能路线图》，旨在保障人工智能的安全开发和落地实施 。

在国防层面，美国国防部于 2023 年 8 月成立“利马”生成式人工智能工作组，帮助美军改善情报和作战规划，重点是确保国家安全、最大幅度降低风险及负责任地整合人工智能技术。其主要职责：评估、同步和利用国防部的生成式人工智能能力；充分利用国防部与情报界和其他政府机构间的合作伙伴关系；在分析和集成国防部大型语言模型等生成式人工智能工具方面发挥关键作用。

2.3　注重数字化人才管理，加强人工智能相关岗位的招聘、培训和留用

美国长期注重人才队伍建设，一直将专业人才培养和人才队伍打造作为重点任务。在政府层面，进一步加强跨学科、跨技能类别人才培养，注重打造人工智能与其他行业的复合型人才。拜登政府第 14110 号行政令对吸引人工智能人才也作了具体要求，要求人事管理办公室与国防数字服务局等机构联合加快大规模招募人工智能专业人才，同时，各机构将为相关领域的员工提供人工智能及安全应用培训，吸引全球人工智能人才来美国，并自上而下协调联邦和州，加强人工智能领域人才就业。在国防部层面，加快引进数字化人才相关管理岗位，加强具有领域知识和数字技能的军人、文职人员的培训和实践机会，同时改革当前招聘制度，吸引数字化人才。2023 年 11 月，美国国防部首席数字和人工智能办公室启动“数字点播”服务，通过与麻省理工学院共享数字图书馆资源，加速国防领域人工智能人才培养，促进美军人员了解人工智能系统和其他新兴技术，以更好地适应未来国防发展趋势，进一步推动新技术在整个国防部门的应用 。

2.4　进一步深化国际合作，构筑人工智能国际同盟和国际秩序

美国一直通过率先和领导制定人工智能相关政策标准、扩大多双边合作等方式，试图主导人工智能国际规则制定。在规则制定方面，利用其影响力主导国际规则制定进程，影响和促进各国达成其所想要的共识，基于美国立场规范人工智能发展和安全应用。2023 年 11 月，美国 CISA 和英国国家网络安全中心联合发布《安全人工智能系统开发指南》。该指南为人工智能系统开发提供了重要建议，并强调遵守设计安全原则的重要性。指南从安全设计、安全开发、安全部署及安全运行与维护 4 个方面提出降低人工智能系统开发流程整体风险的注意事项和缓解措施。

3.1　美国将集全国之力，全面推进人工智能安全管控

美国除从政府层面发布系列行政令、政策文件，从顶层加强人工智能安全管控引导外，开始注重全社会发力，形成政府主导、多方参与的治理体系，全面推进人工智能安全治理，使人工智能技术能够成为助力美国经济发展和国家安全的硬实力。2024 年 2 月，白宫表示正在招募工业界、学术界、非营利组织等成立人工 智 能 安 全 研 究 所 联 盟（Artificial Intelligence Safety Institute Consortium，AISIC）。ChatGPT的制造商 OpenAI、谷歌、微软，以及南卡罗来纳大学人工智能研究所都是 AISIC 成员。AISIC隶属于美国国家标准与技术研究院（National Institute of Standards and Technology，NIST）的人工智能安全研究所，其将致力于人工智能保障措施和安全标准等方面的研究，以期为政府、工业界和学术界交流提供平台。

3.2　美国注重标准引领，通过规范化流程，应对人工智能国防与军事应用过程中的安全风险

早在 2019 年，美国时任总统特朗普就在签署的第 13859 号行政令《美国人工智能倡议》中明确要求，标准先行，要求 NIST 制定人工智能领域适当操作标准与规程，使其能够安全、可信、可靠发展。通过制定标准尽量减少恶意攻击，同时还要制定国际标准，通过国际标准促进和保护美国的优先事项。2023 年 1 月，NIST 正式发布《人工智能风险管理框架》，明确人工智能相关风险的梳理构建方法。通过完善问责机制、成立风险预警团队、完善危机解决机制等强化治理功能；通过明确系统运行所需的环境要求，明确系统功能目标，评估对组织、社会、个人等的影响，强化影射功能；通过完善风险跟踪识别机制，定期评估反馈等强化测量功能；通过加强对人工智能安全事件事故响应、补救、恢复机制强化管理功能。

3.3　美国高度重视人工智能全球治理问题，将对全球人工智能安全管控话语权产生重大影响