西班牙通过AI法案，严惩未标识AI生成物

西班牙政府于2025年3月11日批准了人工智能治理法案草案，该法案旨在确保人工智能的使用符合伦理、包容且有利于人类。这一规范性工具将把西班牙法律与已生效的欧盟人工智能法规相协调，同时在推动创新的同时进行监管。

“人工智能是一种非常强大的工具，它可以用于改善我们的生活，也可以攻击民主；它可以有好的用途，也可以有坏的用途。人工智能可以用于研究癌症或阿尔茨海默病，预防自然灾害，发现新药物；或者它可以用于传播虚假信息和谎言，散布仇恨，攻击我们的民主。因此，适时地对其进行良好的使用和治理至关重要”，数字转型与公共职能部长奥斯卡·洛佩斯在部长会议后的新闻发布会上强调。

该法案草案将通过紧急程序进行处理，接下来将进行必要的程序，然后再次提交部长会议，以最终批准为法案草案并送交议会进行批准。

为了使欧盟拥有一个共同的法律框架，以避免人工智能系统对人类构成风险，该法规禁止某些恶意使用人工智能的行为，对被认为是高风险的系统引入更严格的要求，并为其余系统设定最低透明度要求。

此外，该法案还引入了一项新的数字权利，即当人工智能系统引发严重事件（如人员死亡）时，相关监管机构可以暂时将这些系统从西班牙市场撤回。

被禁止的实践已于2025年2月2日生效，自2025年8月2日起，这些行为可以通过罚款或其他额外措施（要求其调整系统以符合规定，禁止其商业化……）进行处罚，适用该法案草案所纳入的制裁制度，具体金额在欧盟法规所规定的范围内。例如，被禁止的实践包括：

-使用潜意识技术（无法感知的图像或声音）在未经同意的情况下操纵决策，从而对个人造成重大损害（成瘾、性别暴力或损害其自主性）。例如：一个聊天机器人识别出有赌博成瘾的用户，并通过潜意识技术引诱他们进入在线赌博平台。 

-利用与年龄、残疾或社会经济状况相关的漏洞，以实质性地改变行为，从而对其造成或可能造成重大损害（例如：一个配备人工智能的儿童玩具鼓励孩子们完成可能对其造成严重身体伤害的挑战）。 

-按种族、政治、宗教或性取向对人员进行生物识别分类（例如：一个能够通过分析社交媒体上的照片推断个人政治或性取向的面部生物识别分类系统）。 基于社会行为或个人特征对个人或群体进行评分，作为选择方法，例如拒绝他们获得补贴或贷款。 

-基于个人数据（如家庭病史、教育水平或居住地）评估一个人犯罪的风险，除非有法律例外。 在工作场所或教育机构中推断情绪，作为晋升或解雇的评估方法，除非出于医疗或安全原因。 

对于这类系统的处罚金额在750万至3500万欧元之间，或者在上一财年全球业务量的2%至7%之间，以较高者为准，除非是中小企业，其处罚金额可以是两者中的较低者。 

负责监管被禁止系统的机构包括西班牙数据保护局（负责生物识别系统和边境管理）；司法权力总委员会（负责司法领域的人工智能系统）；中央选举委员会（负责影响民主进程的人工智能系统）；以及AESIA负责其他情况。

根据法规，高风险人工智能系统包括： 

-所有可以作为工业产品（机器、电梯、防护设备、压力设备或燃气设备）、玩具、无线电设备、医疗产品（包括体外诊断）、运输产品（航空、铁路、海洋设备以及两轮和三轮机动车、农业设备、船舶和缆车运输）的安全要素添加的系统。 

-属于以下领域的系统：生物识别、关键基础设施、教育和职业培训、就业、获得私人基本服务（如信贷或保险服务）和公共基本服务（如紧急服务或分流）以及享受这些服务和福利。 

-用于保障权利、移民、庇护和边境管控的系统。 

-用于司法管理和民主进程的系统。 

这些系统必须履行一系列义务，如具备风险管理和人工监督系统、技术文档、数据治理、记录保存、透明度以及向部署负责人通报信息、质量体系等。如违反这些规定，将根据违规严重程度面临相应的处罚： 

-如果人工智能系统的运营商未通报严重事件（如人员死亡、危及关键基础设施的损害或对环境的损害），或未遵守市场监管机构的命令，将被视为非常严重的违规行为。在这种情况下，处罚金额将在750万至1500万欧元之间，或者在上一财年全球业务量的2%至3%之间。 

-严重违规行为的示例包括：在工作场所使用生物识别技术控制员工出勤的人工智能系统未引入人工监督；或者在工业部门中执行检查和维护任务的具有人工智能的机器人未具备质量管理体系等。在这种情况下，处罚金额将在50万欧元至750万欧元之间，或者在上一财年全球业务量的1%至2%之间。 

未正确标记任何由人工智能生成或操纵的图像、音频或视频，这些内容显示真实或不存在的人在做他们从未做过的事情或出现在他们从未去过的地方，构成深度伪造行为，也被视为严重违规行为。根据欧盟法规，这些内容必须“在首次互动或展示时以清晰且可区分的方式”被标记为由人工智能生成。 

未在高风险人工智能系统上或其包装或随附文件中附上CE标志（以表明符合人工智能法规），将被视为轻微违规行为。 

此外，西班牙数据保护局负责监管与国家安全部队和机构相关的移民和庇护管理系统；司法权力总委员会负责司法领域的人工智能系统；中央选举委员会负责选举进程系统；西班牙银行负责信用评级系统；保险总局负责保险系统；国家证券市场委员会负责资本市场系统。在其他情况下，负责机构将是AESIA。

从2026年8月2日起，欧盟法规要求成员国至少建立一个人工智能沙盒（受控测试环境），以促进创新，并在商业化或投入使用前的有限时间内，通过供应商或潜在供应商与相关监管机构之间的协议，促进创新人工智能系统的开发、培训、测试和验证。 

西班牙已于去年12月提前履行了这一要求，启动了一项征集活动，以选择多达12个高风险人工智能系统，这些系统将在一年内参与受控测试环境。积累的经验和吸取的教训将用于发布关于高风险系统适用要求的技术指南。