美国白宫发布《推进国家安全人工智能治理和风险管理框架》附：中英全文

《AI框架》根据10月24日同期发布的《关于人工智能国家安全备忘录》（以下简称《备忘录》）要求制定，体现了拜登政府对AI技术在推动国家安全创新和实现战略目标方面潜力的高度重视。《AI框架》明确了政府确保AI使用符合民主价值观的承诺，特别是在保障人权、公民权利、公民自由、隐私和安全等核心原则方面，强调AI应用的负责任和合法性。

AI技术作为当前时代最具影响力的技术之一，不仅为美国在国家安全领域的创新发展提供了重要机遇，也对该技术在道德与法律约束下的使用提出了更高要求。《AI框架》通过设定国家安全中的AI应用标准，确保政府人员能够信赖AI系统的性能，同时保持公众对国家安全机构的信任，不断提升AI技术在国家安全领域的应用规范。

《AI框架》提出，人工智能的使用应负责任、合法，并尊重人权、公民自由与隐私。框架设立了四大支柱，具体如下。

（一）第一支柱：人工智能使用限制

《AI框架》提出四大使用限制：一是禁止的使用案例，明确规定机构不得通过AI从事违反法律的行为，包括侵犯个人权利、非法压制言论自由、基于歧视性因素对待个人、不合理推断个人状态、未经充分测试和监督进行军事决策估算、进行移民裁决等操作；二是高影响使用案例，涵盖在军事、情报等领域中具有潜在高风险的AI应用，例如用于实时跟踪个人的军事或执法活动、对个人进行威胁分类、移民分类、涉及敏感信息和恶意软件的AI使用等；三是影响联邦人员的使用案例，包括对招聘、晋升、员工健康和绩效等决策有重大影响的AI应用。四是其他使用限制，各部门负责人可根据本部门实际情况，增设相关限制类别并维护相应的限制清单。

（二）第二支柱：最低风险管理实践

一是风险与影响评估及人类监督，高影响AI使用需开展全面的风险与影响评估，包括明确使用目的、收益及潜在风险，评估数据质量，测试系统，识别并减轻歧视和偏见风险，开发流程以避免对系统的过度依赖，培训和评估操作员，确保人类监督，并建立有效的报告机制。各机构应参考多种资源制定自身风险管理实践，并及时向相关部门报告最新情况。二是针对影响联邦人员的额外保障，除适用于高影响AI的常规实践外，还需征求劳工代表意见，通知并获得个人同意，在做出不利决策时告知个人，并提供申诉和补救机制。三是豁免，在特定条件下，首席AI官员可酌情豁免部分风险管理实践，但需遵循严格的程序与条件，包括进行风险评估、集中管理豁免、及时报告及定期审查等。

（三）第三支柱：对AI使用情况的分类和监测

一是清单管理，各机构需每年定期盘点并报告高影响AI使用情况，确保相关信息完整、准确。二是数据管理，各部门负责人需制定或更新数据管理政策，包括训练数据评估、推荐最佳实践、特殊AI模型处理、使用指南制定、评估和审计标准确立及遵循网络安全指令等内容。三是监督和透明度，机构需任命首席AI官，成立AI治理委员会，负责提供顾问支持、建立治理流程、资源管理、促进公平和包容、监督AI的使用及其风险、实施风险评估并制定相关指南等。还需确保监督官员有效履行职责，并定期提交相关报告，以保障监督工作的透明度。

（四）第四支柱：培训和问责制

一是标准化培训要求和指南，涵盖机构应建立标准化培训要求，为不同岗位的人员提供适应性强的AI相关培训。二是政策与程序更新，涵盖机构需更新政策和程序以确保问责制，明确风险评估人员职责，建立责任机制，要求文档记录和报告流程，提供事件处理机制。同时，需更新举报人保护措施，保障人员能够无障碍地报告与AI相关的问题，维护组织内部的合规性和透明度。