《以往鉴来：​制定人工智能标准的教训和启示》

为快速发展的AI技术制定标准是一项复杂的工作，这其中存在的挑战包括缺乏有关AI的通用定义，以及潜在的AI用例激增。目前，各国政府虽然承认AI标准仍处于萌芽阶段，因此制定可执行的标准非常重要。AI系统有望通过执行或增强人类难以完成的某些功能，如从大量数据中检测模式或提取高价值信息，对人们的生活产生积极影响。然而，这些系统也可能以多种方式造成危害，例如，传播错误信息或强化从训练数据中推断出的偏见。虽然标准可以降低AI系统的风险，并且有利于AI系统的相关实践，但制定AI标准仍然发展缓慢，这主要是以下原因导致：

总之，AI领域的情况错综复杂，它带来了各种社会风险，需要根据不同的使用情况进行不同程度的监督。此外，AI不是一种单一的技术，而是一个相关技术的家族，这意味着在制定标准时必须细致入微。所幸制定标准并不是一项新挑战，仅国际标准化组织就有24000多项国际标准。因此，参与制定AI标准过程的利益相关者可以研究其他领域的明确标准，从这些领域制定标准的历程中汲取经验。

在AI领域，AI模型中的错误可能会传播到以模型为基础的应用程序中。此外，风险管理的一个关键部分是对源自系统相互依存关系的风险进行规划。美国美国国家标准与技术研究院（NIST）制定了AI风险管理框架（AI RMF），为AI系统风险的映射、测量、管理和治理奠定了基础。AI RMF的“地图”功能建立了与AI系统相关的风险框架，它强调预测这些危害在整个AI生命周期中如何因参与者与AI系统之间的相互作用而出现。通过将相互依存关系与不同规模的风险联系起来，AI风险管理机制展示了系统相互依存关系对AI风险管理的适用性。

为获得市场批准而进行测试的要求可以成为管理新技术风险的有用工具，在AI技术的管理中很可能会采用此种工具。这些要求应根据系统带来的风险程度和人们对系统的了解程度等因素进行调整。美国的一些监管制度已经采用了基于风险的要求，即根据其技术特点、能力和使用环境构成较高风险的系统需要更严格的测试，这也是《欧盟AI法案》的一个显著特点。

虽然标准合规可能成本高昂且复杂，但合规援助可以帮助企业减轻负担。帮助企业实施和遵守标准的资料通常都需要付费，这使得一些企业在证明其符合标准的过程中需要花费高昂的成本。例如，英国标准协会（BSI）对医疗器械质量管理的审核收费约为每小时280美元，对技术文件的审核收费约为每小时480美元。此外，实施特定行业标准的成本，包括员工工资、报告流程和实施合规的系统，往往会随着法规数量的增加而增加。

第三方非政府组织，包括专业组织和认证组织，可以在消除标准制定、实施、遵守和跟踪障碍方面发挥重要作用。专业组织可以充当有用的信息收集中介，并汇集较小公司的资源，以获取通常价格昂贵的标准文件。非政府认证组织可以帮助开展标准验证活动，减轻政府的工作负担；私营组织通常也可以相对快速、灵活地制定标准，随后将其纳入强制性标准。美国职业安全与健康管理局（OSHA）的案例研究强化了这些经验教训，可将其应用于AI领域。

正如金融、网络领域的案例研究揭示的，并非每一种治理形式（包括标准）都必须具有监管性质，有效的非监管方法包括：

• 利用私营和自愿标准，在公共和私营部门之间建立问责制和信任；

• 公开批评未能坚持标准的实体；

• 使政府采购技术标准化。

这些经验教训可以为AI的非监管治理提供借鉴。随着这些对话的推进，政府可以从金融、网络等领域的案例研究中吸取经验教训，以确保其坚持“以规则为基础、私营部门为主导的标准制定方法”的基本承诺。已经建立了强大功能的AI模型的机构大多来自私营部门，因此他们的技术专长和观点应纳入标准制定的讨论中。

在各个部门，标准的制定可能是一个漫长的、多方利益相关者参与的过程，需要经历多个阶段。标准可能很快就会过时，也可能会损害弱势群体的利益，因此，亟需制定战略来提高标准的有效性和持久性。让不同的利益相关者为标准制定做出贡献，并定期召集这些利益相关者进行更新，这些机制都有助于保护标准在其生命周期内的完整性。由于有关AI标准的讨论仍处于早期阶段，技术发展迅速，制定全面的AI标准可能需要数年时间，标准以及制定标准的制度必须适应不断发展的技术的创新速度。虽然AI标准制定、颁布和采用的时间表不尽相同，可能会限制标准的灵活性，但对标准进行协调和定期检查可确保AI标准保持相关性。