原创丨欧盟《人工智能法案》关键条款解读

2024年3月13日，欧盟议会批准了《人工智能法案》，该法案由欧盟委员会于2021年4月提出，是第一个具有约束力的全球人工智能综合性法规，为人工智能的使用制定了共同框架。

该法规于2023年12月与成员国谈判达成一致，其目标是保护基本权利、民主、法治和环境可持续性免受高风险人工智能的影响，同时促进创新并让欧洲成为该领域的领导者。该法规根据人工智能的潜在风险和影响程度确定了人工智能的义务。

目前，全球多个国家已引入或正在考虑引入关于人工智能的规则。

欧盟《人工智能法案》旨在建立统一的人工智能（AI）法律框架，以促进AI技术的安全、可靠和以人为本的应用，同时确保在欧盟内部市场的顺畅运作。法案的主要内容涵盖以下几个方面：

总则：明确了法案的适用范围、目标和基本定义，旨在通过设立统一法规框架改善内部市场的功能。

AI系统的风险分类：根据潜在风险，将AI系统分为不同类别，包括高风险AI系统和非高风险AI系统，以便对不同风险等级的系统实施不同级别的监管要求。

禁止的AI行为：禁止某些AI行为，如社会评分系统和实时远程生物识别等，以保护个人隐私和基本权利。

高风险AI系统的特定要求：对被认定为高风险的AI系统，规定了特定的合规要求，包括数据治理、技术文档的透明度要求等。

透明度规则：要求所有AI系统，特别是与消费者互动的系统，应当满足透明度和信息披露的要求。

市场监管治理：建立了对AI系统的市场监管机构和职责，以及成员国之间的协作机制。

执法措施和处罚：明确了违反法案规定的法律后果，包括对违规行为的处罚措施。

支持措施：提出了促进AI技术发展和创新的措施，特别是对中小企业的支持。

国际合作：强调了国际合作在促进AI技术全球标准和法规统一中的重要性。

其中对于关键条款的解读主要有以下几点：

一是关于高风险AI系统的分类与要求：该法案中对健康、安全、基本权利和法治构成重大威胁的人工智能系统。规定了特定要求，且法案中的大部分义务对其均适用。这些要求包括：第一，建立风险管理制度。在人工智能系统的整个生命周期中，应建立、实施、记录和维护与高风险人工智能系统有关的风险管理系统。第二，建立数据管理制度。高风险人工智能系统的训练、验证和测试数据集应满足适合系统预期目的的数据管理要求。第三，制定技术文件。应在该系统投放市场或投入使用之前制定高风险人工智能系统的技术文件，并保持更新。第四，留存相关记录。高风险人工智能系统的设计和开发应具有在系统运行时能够自动记录事件的能力。第五，保障系统的准确性、稳健性和网络安全。

二是禁止的AI实践和行为：该法案明确了一系列禁止的AI实践和行为，旨在防止AI技术的滥用，保护个人和公共利益不受侵害。这些禁止的实践主要针对那些可能对个人的基本权利和社会的公正性造成严重威胁的行为。包括：基于敏感特征的生物识别分类系统，以及从互联网或闭路电视录像中无针对性地抓取面部图像以创建面部识别数据库，工作场所和学校中的情绪识别、社会评分、预测性警务以及操纵人类行为或利用人们的弱点的人工智能等等。法案也提供相对应的保护措施，包括：透明度和信息提供；用户权利；数据保护；市场监管；消费者教育。

三是透明度和可解释性：要求通用人工智能 (GPAI) 系统及其所基于的 GPAI 模型必须满足某些透明度要求，包括遵守欧盟版权法和发布用于培训的内容的详细摘要。可能带来系统性风险的更强大的 GPAI 模型将面临额外的要求，包括执行模型评估、评估和减轻系统性风险以及报告事件。此外，人造或操纵的图像、音频或视频内容（“深度伪造品”）需要明确标记。

四是公共和私人部门的影响：1.公共部门的应用方面，法案要求公共部门在采用AI系统时，必须确保这些系统遵守严格的合规性和透明度要求。这意味着公共部门在使用AI系统进行决策支持、服务提供或其他官方活动时，必须考虑到AI系统的潜在风险，如对个人隐私的侵犯、数据保护的合规性以及对基本权利的潜在影响。公共部门还需要在教育、医疗、交通和公共安全等关键领域还进行彻底的风险评估。2.私营部门应用方面，要求私营企业在开发、部署和使用AI系统时，必须确保其遵守法案中规定的各项要求，包括但不限于数据保护、透明度、风险管理和技术文档的完整性。法案也提供了一些支持措施，如鼓励制定行业行为准则、提供技术和法律指导以及简化合规流程，以帮助中小企业适应新的法规环境。此外，法案还强调了对创新的支持，鼓励中小企业利用AI技术提高竞争力和效率。

首先，在市场合作方面，我国人工智能应用进入欧盟市场或接入欧盟数据的规则门槛虽进一步提高，但这对于提升我国自身产品的国际竞争力并非坏事，尤其是在当前美国人工智能技术应用由于规范性不足而较多遭遇负面案例反噬的情况下，“布鲁塞尔效应”或许能帮助我国人工智能企业实现弯道超车。其次，在治理合作方面，中欧之间在人工智能治理问题上有较大的立场共性，均强调了新技术要服务于人，而不是人被技术奴役，相信这一关键公约数，能为中欧双方今后在人工智能全球治理问题上相向而行提供足够的空间。

注：“布鲁塞尔效应”（Brussels effect），一词最早由芬兰裔哥伦比亚大学法学院教授阿努·布拉德福德（Anu H.Bradford）于2012年提出，主要指欧盟凭借市场力量对全球市场进行单边监管的能力。

商务合作丨开白转载丨媒体交流   联系方式：18813062895

往 期 回 顾：