【国际视野】美国网络安全和基础设施安全局发布《人工智能路线图》

与人工智能相关的安全挑战与前几代软件相关的网络安全挑战类似，制造商在设计时没有考虑到安全问题，而是将安全责任推给了客户。尽管人工智能软件系统可能不同于传统形式的软件，但基本的安全实践仍然适用。因此，CISA的人工智能路线图以该机构的网络安全和风险管理计划为基础。至关重要的是，人工智能系统制造商必须遵循安全设计原则：对客户的安全成果负责，以高度的透明度和问责制引领产品开发，并将安全设计作为业务的重中之重。随着人工智能应用的增长和越来越多地融入关键系统，安全必须成为人工智能系统开发的核心要求，并从一开始就贯穿整个生命周期。

本路线图提供了每项工作的目标，详细说明了CISA 实现目标的方式以及衡量成功的标准。

CISA 将利用人工智能软件工具加强网络防御，支持关键基础设施任务。CISA采用人工智能将确保负责任、合乎道德和安全的使用，符合《宪法》和所有适用法律和政策，包括涉及联邦采购、隐私、公民权利和公民自由的法律和政策。

1 .CISA对网络安全计划进行评估，以了解人工智能的潜在用途，并提供资源、要求和监督，以便在适当的地方采用人工智能。

2.通过负责任地使用人工智能工具，CISA网络防御人员在破坏性入侵发生之前主动减轻对关键网络的威胁。

在 CISA工作流程中更负责任地使用人工智能软件工具。

CISA将建立健全的人工智能治理流程，以协调整个机构的行动。这将包括制定道德和安全监督流程，以及法律、采购、隐私、公民权利和公民自由方面的考虑因素。负责任地使用将是应用人工智能的核心。为促进负责任地使用人工智能，CISA将：

CISA 将创建一个机构人工智能用例清单，以收集、审查和优先处理支持任务的人工智能用例。该清单将包括对现有IT 系统、协作工具、工作流程、关键基础设施防御计划的改进，以及用于训练AI 模型的拟议数据收集。

为了在采用过程中保持领先地位，同时确保隐私和公民权利得到保护，CISA将密切协调与人工智能相关的研发工作，以弥补任务需求方面的差距。这些举措包括确定人工智能负责任的基准做法，以保护安全和权利，创建安全可靠的人工智能测试平台，以及制定网络安全用例的技术要求。

CISA将为人工智能的使用建立事件响应能力，包括必要时的补救和纠正程序。此外，CISA将采用一种方法对人工智能模型进行持续评估，同时审查IT安全实践，以安全地集成人工智能技术。

CISA将探索限制人工智能使用偏差的整体方法，确定开发、测试、实施和维护过程中的潜在偏差点，以建立公平性。除了探索偏见和缓解策略外，CISA还将开发培训数据质量评估，并公布我们的人工智能用例清单。

负责任和安全地部署人工智能符合CISA 的核心网络安全任务。为帮助确保这一点，CISA将探索识别、测试、评估和部署用于网络防御的人工智能能力，包括检测美国政府关键软件、系统和网络中的漏洞，记录所吸取的经验教训。

CISA将通过制定安全、有弹性的人工智能软件开发和实施的最佳实践和指南，评估和协助不同利益相关方采用基于设计的安全人工智能软件，包括联邦文职政府机构、私营部门公司以及州、地方、部落和领地(SLTT) 政府。

更多遵守CISA 风险指导和人工智能软件部署最佳实践，包括红队和漏洞管理指导.

CISA将评估与关键基础设施部门使用人工智能有关的潜在风险，包括部署人工智能可能会使关键基础设施系统更容易遭受关键故障、物理攻击和网络攻击的方式。然后，CISA将考虑如何减轻这些脆弱性。此外，CISA将把 NIST人工智能风险管理框架(AI RMF 1.0)以及其他适当的安全指南纳入相关的安全和安保准则和最佳实践，供关键基础设施所有者和运营商使用。

CISA 将与关键基础设施利益相关方合作，评估和解决关键基础设施各部门使用人工智能的问题。

CISA 将评估软件物料清单(SBOM) 工具链，包括SBOM 格式标准和自动SBOM 收集和翻译软件，以确认人工智能软件的覆盖范围。

CISA将为安全人工智能系统的获取、开发和运行制定最佳实践和指南。我们还将为安全使用人工智能技术提供指导，并将此指导纳入与人工智能和相关系统有关的网络安全绩效目标。

CISA 将开发工具和技术来加固和测试人工智能系统，并将对抗性ML 流程和人工智能系统漏洞的适当输出纳入国家漏洞数据库。这包括在"协调漏洞披露"（CVD）过程中对人工智能漏洞进行操作测试，以及为人工智能系统和软件（特别是开源软件）的安全测试和红队编写战略指南。

CISA倡导在开发和制造技术产品时采用安全设计方法，确保制造商在设计产品之初就考虑到安全性，从而使消费者获得开箱即安全的产品。为了鼓励对人工智能软件和产品采用安全设计方法，CISA将把人工智能安全纳入安全设计计划，并将开发一个研究管道，以不断了解和预测支持人工智能系统安全的方法。

CISA 将与开发、测试和评估人工智能工具的其他政府机构和行业伙伴合作，评估并建议如何减轻人工智能对我国关键基础设施的威胁。

支持对新出现的人工智能相关风险和人工智能风险管理实践进展的共同认识的出版物和参与的数量。

CISA 将在现有结构的基础上，围绕人工智能安全推进行业合作与协调。2023年 3月成立的信息技术部门协调委员会人工智能工作组将继续就人工智能安全挑战提供建议，并就机构人工智能倡议提供反馈。

CISA 还将在联合网络防御协作机制（JCDC）中设立一个业务部门，即JCDC .AI，以促进围绕影响人工智能系统的威胁、漏洞和缓解措施开展重点合作。JCDC还将探索潜在的业务规划工作，将人工智能提供商和关键基础设施运营商聚集在一起，共同应对特定风险。

CISA 将利用包括JCDC .AI在内的机构伙伴关系和工作组，共享有关人工智能驱动的威胁的信息。该机构将与行业、联邦和国际伙伴合作，了解新出现的威胁，并与更广泛的社区分享。

每个关键基础设施部门都有一套独特的需求和能力。随着对手采用人工智能软件系统，以及人工智能扩大了网络威胁的范围，CISA将发布材料以提高对新兴风险的认识。CISA还将评估风险管理方式和方法，以确定评估和处理人工智能风险的适当分析框架，并确定必要的改进措施。

CISA将为国土安全部领导的机构间人工智能软件进程做出贡献。本LOE包括为美国政府关于人工智能的总体国家战略制定政策方法，并支持在基于人工智能的软件政策问题上采用整个国土安全部的方法。本LOE还包括与国际伙伴协调，推进全球人工智能最佳做法和原则。

CISA利益相关方围绕人工智能安全的明确指导保持一致

与美国机构间和国际合作伙伴合作制定的以人工智能为重点的指导和政策文件的比例。

CISA 将支持整个国土安全部在人工智能政策问题上的发展。在CISA开展具体机构的人工智能工作时，我们将与国土安全部各实体，包括国土安全部人工智能工作组密切协调。

CISA 将参加机构间会议，以促进联邦政府人工智能政策的协调与合作。

CISA 将为人工智能政策文件制定从国家战略角度出发的政策立场，并确保CISA的战略、优先事项和政策与机构间理论保持一致。CISA将推动政策决策，以支持关键基础设施的公平性，并在关键的人工智能政策文件中纳入国家战略层面的观点。此外，为提高公众对人工智能保障的认识，CISA将编制人工智能保障出版物。

CISA 将在各机构间开展工作，确保CISA 的政策和战略与整个政府的人工智能方法保持一致。

CISA 将与其他联邦机构和国际合作伙伴共同制定人工智能安全指南。CISA将与围绕全球AI 安全的国际伙伴合作，并鼓励采用国际最佳实践来确保AI 安全。

CISA将继续对我们的员工进行人工智能软件系统和技术方面的教育，并将继续积极招聘具有人工智能专业知识的实习生、研究员和未来的员工。CISA将确保内部培训反映并让新员工了解人工智能软件系统除技术方面以外的法律、道德和政策方面的问题。

CISA 聘用、培训和留住具有人工智能专业知识的员工队伍

增强 CISA员工队伍的人工智能专业知识。

作为国家的网络防御机构，CISA团队拥有一支强大的网络安全专家队伍。该机构将确定并利用整个CISA现有的人工智能专业知识。我们还将开发一个人工智能实践社区，供整个机构参与，并保持各部门领导人工智能活动的关键联络点，使该机构能够以协作和团结的方式扩展我们的人工智能能力。

CISA将招聘具有人工智能专业知识的实习生、研究员和工作人员。CISA将利用各种途径，包括网络人才管理系统(CTMS)，招聘、培养和维护我们的人工智能人才队伍。

作为计划的一部分，CISA将持续为员工提供培训和教育机会，帮助员工掌握知识和技能，以参与、创新和适当应用人工智能提供的当前和新兴能力。

CISA 将提供培训机会，其中包括实施人工智能的法律、道德和政策方面的目标。

要充分利用人工智能的益处并降低其风险，需要采取整体政府方法。通过本路线图中概述的倡议，CISA将努力实现我们的愿景：在这个国家中，人工智能系统将推动国家的网络防御，我们的关键基础设施将具有弹性并免受恶意使用人工智能的影响，人工智能开发人员将其产品的安全性作为核心业务要求的优先事项。