AI治理|美国联邦航空管理局首版《人工智能安全保障路线图》

随着人工智能（AI）技术的飞速发展，其在各个领域的应用日益广泛，航空领域也不例外。然而，AI在航空系统中的应用带来了新的挑战与机遇。为了确保AI技术在航空领域的安全应用，联邦航空管理局（FAA）于2024年7月发布了《人工智能安全保证路线图》（Roadmap for Artificial Intelligence Safety Assurance），这是一份长达31页的文件，概述了美国航空安全监管机构在航空领域安全整合新型人工智能技术（AI）的方法。根据该策略文件，除了确保人工智能安全之外，FAA还寻求确定人工智能使该行业更加安全的方法。本文将对这一路线图进行深入解读，探讨其背后的原则、目标、行动计划及未来展望。

一、背景与意义

近年来，AI技术的快速发展为航空领域带来了前所未有的创新潜力。从离线应用到过程控制，再到飞机自主飞行，AI技术展现出强大的应用前景。然而，由于AI系统通常通过学习而非传统设计方式实现其性能，这使其在安全保证方面面临巨大挑战。传统航空安全保证技术基于设计者能够全面解释系统设计的每一个方面，但这一方法并不适用于AI系统。因此，如何确保AI在航空中的安全应用成为亟待解决的问题。

在制定人工智能路线图时，FAA咨询了行业官员和其他监管机构，包括欧洲航空安全局（EASA），后者于2020年发布了首份人工智能路线图。2023年5月，EASA发布了经过修订和扩展的《人工智能路线图2.0》，今年该机构又公布了一份概念文件，为打算对人工智能系统进行认证的公司提供了新的指导方针。

FAA在其人工智能路线图版本中，列出了一系列将指导其开发人工智能安全保障方法的核心原则。例如，它建议监管机构利用现有的航空安全要求，并采取循序渐进、以安全为重点的方法来实施人工智能，从降低风险的应用开始，如飞行员辅助系统，以减少工作量和机组人员数量。

该文件还明确了一些必须采取的关键行动，以实现人工智能的安全使用以及利用人工智能增强安全性。这些行动包括与行业和政府机构合作，对FAA员工进行人工智能技术的教育和培训，以及进行持续的研究以评估其安全保障方法的有效性。

EASA和FAA在路线图中的不同之处在于伦理考量。FAA的文件声明“人工智能的伦理使用不在本路线图的范围内”，而EASA在其版本中写道“也应考虑人工智能的责任、伦理、社会和社会维度”。据EASA称，伦理准则对于确保人工智能的可信度以及获得社会对航空领域乃至整个人工智能领域的接受至关重要。

尽管FAA的路线图没有直接提供任何伦理指导，但该文件提到了最近解决这一问题的立法，包括乔·拜登总统于2023年10月发布的第14110号行政命令（“人工智能的安全、有保障和可信赖的开发和使用”）。

FAA的文件指出：“本路线图是在一个更广泛、不断发展的国家框架内制定的，该框架旨在为人工智能的安全、有保障和可信赖的开发和使用建立规范，包括在适当的情况下在整个联邦政府范围内采用和监管人工智能。”

EASA的路线图预计了人工智能采用的各个阶段的时间表，从本十年的飞行员辅助和人机协作开始，到2050年左右全自动驾驶商用客机进入市场。然而，FAA的路线图没有对人工智能的采用速度或任何与人工智能相关的里程碑的时间进行推测。

FAA和EASA都将各自的路线图视为“活文件”，随着人工智能技术的进步，这些机构会定期对其进行更新。

二、指导原则

该路线图提出了一系列指导原则，旨在指导AI技术在航空中的安全保证工作。这些原则包括：

1. 在航空生态系统中工作：利用现有的航空安全要求、流程和方法引入AI，确保其在结构严谨、风险受控的生态系统中运行。
2. 聚焦安全保证和安全增强：将AI开发集中于AI的安全保证以及利用AI提高安全性，同时确保考虑伦理因素。
3. 避免拟人化：将AI视为工具而非人类，避免使用人类中心化的语言，明确AI的角色和局限性。
4. 区分学习和已学习AI：为学习和已学习的AI实现制定不同的安全保证方法。
5. 采取渐进式方法：在航空中逐步引入AI，通过实际应用和经验不断改进安全保证方法。
6. 利用安全连续体：从低风险应用到高风险应用，逐步积累经验，提高安全保证水平。
7. 利用行业标准：采用行业共识标准，促进全球监管协调，并适应技术变化。

三、目标与行动计划

目标

1. 建立指导原则：为航空中的人工智能安全保证建立指导原则。
2. 制定优先事项和计划：为AI在航空中的安全引入制定优先事项和计划。

行动计划

1. 协作：与行业、政府、国际民航组织（ICAO）以及其他国内外相关利益方建立长期合作关系，共同开发全球统一的AI安全保证方法。
2. FAA员工准备：增强FAA员工在AI技术设计和集成方面的知识和经验，以便有效监督航空中的AI技术应用。
3. 确保AI的安全：针对AI的独特挑战，开发和适应特定的安全保证方法，确保应用于飞机的任何AI系统都是安全的。
4. 利用AI提高安全性：利用AI改进安全生命周期流程，包括监测、系统开发和测试等，以提高航空安全。
5. 航空安全研究：开展针对性研究，以开发和评估AI系统的安全保证方法，并探索利用AI提高整体航空安全性的途径。

四、现有应用与未来方向

现有应用

未来方向

1. 渐进式引入：通过从低风险应用到高风险应用的逐步引入，积累经验并不断改进安全保证方法。
2. 标准制定与协调：参与行业共识标准的制定和推广，促进全球监管协调，确保AI技术在全球范围内的安全应用。
3. 技术研发与创新：加大对AI技术研发的投入，推动技术创新和突破，解决现有技术瓶颈和挑战。
4. 跨学科合作：加强与其他领域（如计算机科学、数学、工程学等）的合作与交流，共同推动AI技术在航空领域的发展和应用。

五、挑战与应对

1. 技术复杂性：AI系统的复杂性和不确定性给安全保证带来巨大挑战。需要开发新的安全保证方法和技术手段来应对这些挑战。
2. 伦理与法律问题：AI技术的应用可能引发伦理和法律问题。需要制定相关法规和标准来规范AI技术的使用并确保其符合伦理和法律要求。
3. 人才短缺：随着AI技术的快速发展和应用领域的不断拓展，对具备跨学科知识和实践经验的专业人才需求日益增加。需要加大对人才培养和引进的投入力度以满足行业需求。

六、结论与展望