【国际视野】美国土安全部发布部门《人工智能路线图》

国土安全部致力于保卫美国人民、家园以及价值观，不断创新以支持其使命。

虽然人工智能现在经常见诸报端，但其概念早在20世纪50年代就已出现。人工智能最初被理解为机器执行以前需要人类智能才能完成的任务的能力，现在则包括能够进行推理、推论和学习的系统。人工智能系统的复杂程度在过去十年，尤其是最近几年有了大幅提高。用户可以通过基于互联网的界面使用人工智能系统，越来越多的人工智能系统被集成到软件中，世界各地的企业和政府都在部署人工智能系统。

国土安全部使用人工智能已有十多年的历史，并在不断提高人工智能在整个部门应用的广度、深度和成熟度。例如，早在2015年，国土安全部就试点使用机器学习（ML）技术来支持身份验证任务。从那时起，国土安全部已成功实施了其他人工智能驱动的应用，以提高边境安全、网络安全、移民、贸易、运输安全、劳动力生产力以及对保护国土至关重要的其他领域的效率并促进创新。国土安全部的每一个部门和办公室都在努力切实评估人工智能对国土安全部任务的潜在益处，并负责任地利用其潜力来进一步转变业务。国安部已在《人工智能用例清单》中公布了41种不同的人工智能用途，随着扩大人工智能的使用范围，这份清单还将不断增加。

这些和其他目前对人工智能的使用都是与美国国务院的隐私办公室、民权和公民自由办公室、总法律顾问办公室以及其他适当的监督机构合作和协商进行的。

虽然人工智能在加强国土安全部的任务方面存在巨大的机遇，但人工智能也带来了新的挑战和风险。人工智能工具的普及很可能会加强我们对手的战术。网络行为者利用人工智能开发新的工具，使他们能够访问和入侵更多的受害者，并以更快、更高效和更隐蔽的方式发动更大规模的网络攻击。试图破坏人们对政府机构、社会凝聚力和民主进程的信任的国家正在利用人工智能制造更可信的外国恶意影响活动。

尤其值得关注的是人工智能攻击对关键基础设施的影响，它可能导致恶意行为者破坏或拒绝与物联网（IoT）技术或联网工业系统有关的活动。向关键传感器生成和传递中毒数据可能会引发下游影响，如服务中断或系统关闭。人工智能技术还被用来破坏我们对来自数字内容的信息的信任，这有别于传统的网络安全威胁，需要进行更多的研究来了解和积累知识，为保护提供依据。同样，虽然人工智能已经推动了物理和生物科学的创新，但它也有可能大大降低非专业人员设计、合成、获取或使用化学、生物、放射性或核武器的门槛。

网络和实体安全是人工智能安全的基础。国土安全部，特别是网络安全和基础设施安全局，将继续努力提高国家的整体网络复原力，并识别和管理与滥用人工智能/移动通信技术相关的风险。此外，作为部门风险管理机构，运输安全局和美国海岸警卫队将继续评估整个运输和海事部门与人工智能相关的风险。

运输安全管理局使用新的凭证认证技术来提高检查站的安检能力

在适当的情况下，它应该可以解释，以满足法律或行政程序中的正当程序要求。国土安全部对人工智能的使用应促进公平，而不是以扩大现有社会不平等的方式发挥作用。

国土安全部的政策与该部的承诺相一致，即在部署人工智能工具以加强业务方面向前倾斜，并在负责任地使用人工智能方面引领政府。国土安全部对负责任地使用人工智能的治理和监督是一项密切协调、高度协作的工作，它将国土安全部各业务部门和监督办公室团结在确保负责任地使用人工智能这一共同目标周围。从第一天起，国土安全部各部门和办公室就与我们的隐私办公室、公民权利和公民自由办公室、总法律顾问办公室以及其他利益相关者密切协调。这些合作可确保遵守所有适用法律和政策，并建立明确的防护栏，禁止不当使用人工智能/移动语言技术，同时保障隐私、公民权利和公民自由。

2023年，国土安全部宣布了促进负责任地使用人工智能的新政策和措施，以指导整个部门获取和使用人工智能/人工智能技术。国土安全部应用了人工智能权利法案蓝图的原则，并将在部内实施美国国家标准与技术研究院的人工智能风险管理框架。随着新法律和政府政策的制定以及该领域的新进展，我们将继续更新我们的内部政策和程序。

总统第14110号行政命令确立了人工智能创新的全面战略，指示国土安全部与其他联邦机构合作，推动政府范围内的协调方法。具体而言，国土安全部将与国家标准与技术研究院、司法部和国防部等其他部门风险管理机构合作，以：

该行政令提供的方向与国土安全部为确保安全、可靠和负责任地开发和使用人工智能而开展的创新工作是一致的。国土安全部将继续管理关键基础设施和网络空间中的人工智能，推动采用全球人工智能安全标准，降低人工智能被用于制造大规模杀伤性武器和其他相关威胁的风险，打击与人工智能相关的知识产权盗窃，并帮助美国吸引和留住技术人才。

国安部部长负责制定国安部的人工智能战略、优先事项和政策，是与私营部门、联邦机构间、州政府官员和主要国际对口部门的主要对话者。部长在白宫人工智能委员会中代表该部，该委员会负责协调联邦政府各机构执行人工智能政策的活动。2023年4月，部长在国土安全部内成立了一个人工智能特别工作组，推动人工智能的具体应用，以推进关键的国土安全任务。国务卿还成立了一个新的人工智能安全和安保委员会（AISSB），并将担任该委员会主席，该委员会将就人工智能的发展和部署向国务卿、关键基础设施社区和更广泛的公众提供建议和意见。在部长办公室，部长已指定网络安全和新兴技术高级顾问担任AISSB的执行主任，并就部署人工智能和其他先进技术向部长提供建议，以履行该部的使命，并支持该部和整个美国政府的相关决策。

国土安全部首席信息官（CIO）是指定的首席人工智能官（CAIO）。首席信息官负责推动整个部门的人工智能创新和负责任的使用，并与国土安全部各办公室和部门合作，制定该部使用人工智能的内部政策。首席信息官为整个部门的人工智能部署制定战略重点，并代表部长协调与国土安全部各办公室和部门合作的人工智能相关工作。首席信息官还负责指导国土安全部的信息安全、数据治理、信息技术和客户体验等职能，使国土安全部能够使用人工智能。

科学技术局（S&T）代表美国国防部领导人工智能相关研发工作，为联邦、州和地方官员提供保护国土的尖端技术和能力。科技局领导人工智能系统的测试与评估（T&E），并与隐私办公室和业务部门合作开发人工智能测试与评估。

战略、政策和计划办公室（政策办公室）负责制定该部的人工智能政策，其中包括监督第14110号行政命令所规定任务的执行情况，以及加强与国际盟友和合作伙伴在人工智能治理和降低风险方面的合作。政策部门在建立AISSB 和其议程方面为部长提供支持。

隐私办公室（PRIV）和公民权利与公民自由办公室（CRCL）对负责任地使用人工智能进行监督并提供指导，以确保国土安全部对人工智能的使用是透明的、可解释的、可信的，避免不适当的偏见，并保障隐私、公民权利和公民自由。PRIV监督国土安全部对人工智能的使用，以保障个人隐私并确保遵守隐私政策。CRCL致力于维护个人自由、公平和平等，确保遵守适用的个人权利保护措施，包括（但不限于）正当程序和非歧视标准，并致力于在国土安全部的所有人工智能使用案例中促进公平。

打击大规模毁灭性武器（CWMD）办公室致力于防止使用大规模毁灭性武器和其他相关化学、生物、辐射和核（CBRN）威胁的攻击，并领导该部在确定和减少人工智能和CBRN威胁交叉点风险方面的工作。化学武器与大规模毁灭性武器部门加强联邦机构间的协调，并向该部的业务部门、州、地方、领土和部落合作伙伴以及第一响应者提供直接的财政援助和支持。

网络安全和基础设施安全局（CISA）开展网络防御工作，以防范人工智能带来的威胁，确保基于人工智能的软件系统的安全，并推动相关风险的降低和恢复。CISA还负责传达与人工智能相关的威胁和风险信息，包括向关键基础设施部门传达，并负责任地将人工智能软件系统整合到整个国土安全部。

业务部门，包括运输安全局、美国公民身份和移民局、美国移民和海关执法局国土安全调查局、联邦紧急事务管理局和美国海岸警卫队，负责任地将人工智能纳入其业务能力，以利用人工智能的潜力。这些能力包括加强边境安全、打击芬太尼、旅行筛查、保护知识产权、赠款和其他援助分配以及海事安全。

情报和分析办公室开展并提供分析，研究人工智能如何影响对关键基础设施和国土安全任务的威胁，包括与网络安全、外国恶意影响和反恐有关的威胁。私营部门办公室隶属于伙伴关系和参与办公室，负责促进与企业、行业协会和其他组织的战略沟通，以加强与国土安全部的关系。

私营部门办公室还帮助部长了解人工智能政策和法规对私营部门的影响，并促进公私合作伙伴关系和最佳实践，以开发创新方法应对国土安全挑战。伙伴关系和参与办公室将代表部长为AISSB 提供行政支持。

国土安全部人工智能工作组包括国土安全部各部门的代表，由负责科技的副部长和首席信息官担任主席。该工作组成立于2023 年 4月，旨在推动人工智能的具体应用，以推进关键的国土安全任务。该工作组与CRCL合作，为保护个人权利提供指导、风险评估、缓解战略和监督。工作队还协调影响部门内部政策变化的工作，并对国土安全部的所有人工智能活动进行监督。

国土安全部与全国各部门的重要利益攸关方合作，并与各州、地方、领地和部落政府、民选官员、私营部门、宗教组织和非政府组织、学术界以及全国各地的社区开展战略接触和外联活动。国土安全部通过各种渠道召集这些利益相关群体的代表，包括常设咨询机构、研讨会和其他有针对性的集会，以确保国土安全部的决策过程代表了这些群体的利益。国土安全部还分享信息，并为提高安全性和复原力制定建议或指导。

下面列出了一些由国土安全部召集的小组，这些小组汇集了不同的利益相关者，以解决与人工智能有关的问题：

在整个2024年，国土安全部将重点关注以下工作重点和相关工作流：

国土安全部将领导整个联邦政府负责任地使用人工智能，以确保国土安全并防止恶意使用人工智能。确保人工智能的使用充分尊重隐私、公民权利和公民自由，经过严格测试以避免隐私伤害或不允许的偏见，并能向服务对象解释清楚。

国土安全部将利用人工智能来支持维持和保障政府运作所需的基本功能。包括大型语言模型（LLMs）在内的人工智能生成工具，可以成为减少业务流程（如管理服务台票据）所耗费精力的组成部分。这种务实的方法旨在利用人工智能简化行政任务，提高政府日常运作的效率和成本效益。战略性地应用人工智能，可以提高生产率并改善客户体验，从而成为一种变革性工具。

除了下面列出的三个试点项目外，国土安全部预计还将在整个企业内启动更多试点项目，包括使用生成式人工智能进行语言翻译。

建立有效的人工智能基础设施是国土安全部人工智能生态系统成功运行的关键。这涉及以下方面的战略考虑

国土安全部各办公室和部门的首席数据官（CDO）在支持人工智能系统的整体技术基础设施方面发挥着至关重要的作用，人工智能系统依赖于高质量、结构良好的数据，以实现可靠、高效的性能。CDO推动整个部门的数据管理，在部门开发人工智能算法时，重点关注模型培训、数据本体和隐私。CDO还确保产出的精确性和响应性，从而提高人工智能应用的整体效率。

有效的开发和独立评估流程对于确保负责任地采用人工智能系统至关重要。一个定义明确的开发流程，包括对风险评估、记录和容忍度的理解，可促进创建稳健可靠的人工智能系统，并有助于降低和管理与隐私、不当偏见、错误、安全或意外后果相关的风险。全面的评估流程对于评估人工智能系统的性能、合规性、公平性、透明度和道德影响同样至关重要。这就需要进行严格的独立测试、验证和持续监控，以建立对人工智能应用的信任和问责。

作为测试与评估（T&E）需求的一部分，国土安全部要求开展全面的人工智能保障活动，以确保人工智能应用的有效性和稳健性。这些活动包括基准测试（将人工智能模型与既定的性能标准进行比较）以及人工智能模型的更新和再培训，以便能够整合新的数据和见解。如果能在算法生命周期的适当位置进行测试和验证，人工智能应用程序就能保持准确、敏捷和反应迅速。

为了支持这些努力，国土安全部将与安全研究人员社区合作，帮助确定国土安全部IT系统中的潜在弱点，作为对严格和安全开发流程承诺的一部分。国安部还将继续根据需要，为人工智能相关技术的使用制定整个部门的指导和政策。

2023年8 月，国安部部长马约尔卡斯签署了国安部政策声明139-06 "国安部各部门获取和使用人工智能和机器学习技术"，以确定国安部获取和负责任地使用增强国安部任务的人工智能的指导原则。其中包括国安部承诺对其人工智能活动进行有意义的监督，并保障隐私、公民权利和公民自由。除其他承诺外，国土安全部不会收集、使用或传播用于人工智能活动的数据。国土安全部也不会建立基于种族、民族、性别、宗教、性取向、性别认同、年龄、医疗状况或残疾等不适当考虑因素做出或支持决策的人工智能系统。此外，国土安全部将仅以符合《美国宪法》和所有其他适用法律和政策的方式获取和使用人工智能，特别是那些保护隐私、公民权利和公民自由的法律和政策。除了承诺避免不当的貌相、定位或歧视外，该政策还要求建立一个适合国安部人工智能活动的人工智能风险管理框架。

国土安全部将在这一基本政策的基础上，发布更多政策，使整个部门负责任地使用人工智能制度化，并针对不同类型的人工智能技术实施量身定制的治理方法。

国土安全部将把资源用于吸引、招聘、培养和留住具有技术技能的人才，以推动人工智能能力的监督和整合。国土安全部将鼓励跨学科合作，组建包括人工智能专家和其他主题专家在内的跨职能团队，以提高解决问题的能力，确保人工智能有效、负责任地融入业务和监督流程。

国土安全部还将优先考虑对员工进行持续培训，以扩展与人工智能相关的技能组合。2023年底，国土安全部发布了一项政策，允许并鼓励国土安全部人员负责任地使用某些商业产品，以利用生成式人工智能的优势，确保他们能够适应未来的工作。到2024年初，数百名员工参加了培训，以便在日常工作的某些方面负责任地使用生成式人工智能。这些培训是我们在这一年中提高员工技能的更大努力的前奏。

国土安全部还计划将更多的技术人员纳入领导和决策角色，以实现必要的发展和保留目标，并培养一种有效整合数据、分析和人工智能能力的创新文化。国土安全部将建立灵活的服务结构，奖励多样化的职业发展道路，培养持续学习的文化，包括领导力培训和适应能力。

人工智能的进步将彻底改变美国人赖以生存的基本商品和服务的提供方式。人工智能可以为公民创造巨大的效率和利益，但也会带来新的风险。为了保护国家网络和关键基础设施，总统已指示国土安全部采取多项措施，帮助管理人工智能的安全、负责任的发展和使用。

国土安全部将利用人工智能的潜力来改善网络防御。在国土安全部内部，我们将开展业务测试，评估联邦文职政府系统的人工智能漏洞发现和修复技术。此外，CISA已经在积极利用ML 工具进行威胁检测和预防。CISA将继续与政府和私营部门专家合作，评估和打击恶意行为者利用人工智能攻击政府和关键基础设施系统的行为。例如，2023年11 月，CISA和英国国家网络安全中心发布了《安全人工智能系统开发指南》，由23个国内和国际网络安全组织共同签署。该指南为人工智能系统开发提供了基本建议，并强调了遵守安全设计原则的重要性。

人工智能的出现可能使恶意行为者更容易开发大规模毁灭性武器和其他相关威胁。尤其令人担忧的是人工智能滥用合成核酸制造生物武器的风险。此外，人工智能还可用于生成儿童性虐待材料（CSAM），其形式可以是计算机生成的图像，也可以是经过数字处理的真实儿童的良性图像，使其看起来像是儿童正在进行露骨的性行为。

为降低这些风险，国土安全部将与白宫科技政策办公室（OSTP）和其他相关美国政府机构合作，评估人工智能降低大规模杀伤性武器和化学、生物、辐射或核（CBRN）威胁开发门槛的潜力。此外，国土安全部还将制定一个评估和压力测试合成核酸筛选的框架，为审计人工智能系统是否被滥用的第三方建立一种共同期望的文化，并防止恶意行为者滥用和扩散的风险。国安部将努力打击利用人工智能制作和传播CSAM的行为，特别是以人工智能生成的新内容和篡改儿童良性图像的形式。

保护知识产权（IP）对美国的全球竞争力至关重要；知识产权盗窃威胁着企业和就业，并对我们的国家安全产生负面影响。为应对这一挑战，国土安全部将通过国家知识产权协调中心创建一项计划，利用国土安全调查局（HSI）、执法部门和行业合作伙伴关系，帮助人工智能开发人员降低与人工智能相关的知识产权风险。

国土安全部将与政府内外的利益相关者合作，制定供关键基础设施所有者和运营商使用的人工智能安全和安保指南。CISA、TSA和USCG正在评估与关键基础设施部门使用人工智能有关的潜在风险，包括部署人工智能可能导致故障、物理攻击和网络攻击的方式。我们将采取全球统一的方法，与国际伙伴合作制定这些指导方针。

根据总统的指示，国务卿2024年目标将成立人工智能安全保障委员会（AISSB）并担任主席，以支持负责任地开发和部署人工智能。美国国土安全部将成立并召集人工智能安全与安保委员会，就人工智能的发展和部署问题，向来自人工智能技术行业、关键基础设施社区、基础设施所有者和运营商、联邦、州和广大公众、学术界和研究机构的专家提供卓越的行业意见、信息和建议。AISSB将开始发布其组织和非营利组织。

吸引和培养人工智能和其他新兴技术领域的多样化人才对美国的全球竞争力至关重要。国土安全部将简化那些希望前往美国从事人工智能或其他关键和新兴技术的工作、学习或研究的非公民的申请处理时间。国土安全部还将明确此类专家的移民途径，并使之现代化，包括O-1A和EB-1非特殊能力公民；EB-2高级学位持有者和非特殊能力公民；以及使用国际企业家规则的初创企业创始人。

国土安全部已根据行政命令的指示推进政策。2023年 10月，美国公民与移民服务局发布了《拟议规则制定通知》，以更新H-1B 签证特殊职业工人计划，并加强其完整性和使用，2024年 2 月，H-1B注册规则中的某些条款最终确定。美国公民与移民服务局（USCIS）继续致力于规则制定工作，以加强非公民（包括人工智能和其他关键新兴技术领域的专家）及其配偶、受抚养人和子女调整身份为合法永久居民的程序。2023年 9 月，移民局明确了EB-1 杰出人才或杰出教授或研究人员的证据指南。

通过与行业领导者、研究机构、其他政府机构和非政府组织以及国际合作伙伴合作，扩大战略合作伙伴关系，可以为国土安全部提供获取尖端技术、各种专业知识和更广泛知识库的途径。这种知识交流可加快针对国安部面临的独特挑战而量身定制的人工智能解决方案的开发和部署。通过促进合作生态系统，国土安全部可以利用更广泛的人工智能社区的集体智慧，从而产生更强大、适应性更强和更具创新性的解决方案。

国土安全部将继续通过行业合作与协调，以及通过已建立渠道内外的双边接触，推进其工作。特别是，国务卿将继续在慕尼黑安全会议等论坛上与国际同行分享国土安全部在人工智能方面的愿景和使命。通过私营部门办公室，国土安全部将在成功举办并得到广泛参与的利益相关者会议的基础上，共享资源和解决问题。此外，CISA还将利用现有的结构来推动

行业合作与协调。例如，CISA将利用信息技术部门协调委员会的人工智能工作组和联合网络防御协作组，围绕影响人工智能系统的威胁、漏洞和缓解措施开展重点合作。在整个联邦政府中，科技部将参与美国人工智能安全研究所联盟，并管理该部的相关备忘录和协议，以确定与学术界和私营部门的伙伴关系。

此外，国安部部长还将通过参与确保负责任的使用，向媒体和不同受众宣传国安部的人工智能愿景和国安部与人工智能相关的努力，并公开分享有关其自身活动以及关键基础设施所有者和运营商使用情况的信息。这些信息将以一种从技术主管到民间社会的方式呈现。其他国土安全部的服务对象也可以获得这些信息。国土安全部的领导者将继续在其面向公众的网站（dhs.gov/ai）上、通过国土安全部的平台、在行业会议上以及在其社交媒体渠道上广泛分享产品信息。

国安部领导层将继续与国会以及外部和内部监督实体接触，提供国安部使用人工智能的最新情况。例如，在2023 年，首席人工智能官就"联邦机构如何利用人工智能"向国会作证，并继续与参众两院的管辖委员会合作，介绍国土安全部在未来使用人工智能和防范人工智能威胁方面的规划工作。

国土安全部，特别是民权和公民自由办公室，将与联邦民权办公室和独立监管机构合作，全面利用各自的权力和办公室，防止和解决自动化系统使用中的歧视问题，包括算法歧视。除采取其他行动外，国土安全部还将加入《关于打击自动化系统中的歧视和偏见的执法努力的机构间联合声明》，申明国土安全部负责任地使用人工智能，并承诺确保联邦开展和协助的活动符合适用的民权法律和政策。

隐私办公室、民权和公民自由办公室以及伙伴关系和参与办公室将促进国土安全部与社区、倡导者和合作伙伴的外联活动，以接收来自隐私、民权和公民自由专家以及可能受国土安全部使用人工智能影响的社区的反馈。这种参与将被用来为支持国土安全部任务的人工智能开发提供信息，特别是帮助建立对隐私、个人权利和基本公平的保护。国土安全部将继续与隐私、民权和公民自由倡导者举行会议，分享有关国土安全部工作的信息。