国外人工智能安全相关法律法规情况

美国为确保自身在人工智能领域的全球领导地位，近几年在行政条令和立法层面进行了诸多尝试，虽然最终仅有部分法案审议成为法律，但这些相关法案的提出与辩论过程对于后续美国制定并实施成熟的人工智能安全治理规制也具有重要的参考借鉴。这体现出美国在人工智能领域依然贯彻了立法先行的思路，科学完备的法律体系建设将有利于为美国布局安全可控的人工智能提供坚实的制度保障。具体法案名称及主要内容如下。

时间：2019年

主要内容：依据此授权法，美国成立了国家人工智能安全委员会（National Security Commission on Artificial Intelligence），研究人工智能和机器学习方面的进展，以及它们在国家安全和军事方面的潜在应用。此外，依据《2019年国防授权法案》，美国国防部创建了联合人工智能中心（JAIC），作为开发和执行总体人工智能战略的责任机构。

时间：2018年6月25日首次提出；2019年7月16日再次提出

主要内容：法案要求联邦贸易委员会制定法规，强制数字平台公开披露其使用“旨在在线复制人类活动的自动化软件程序或过程”的情况。法案将定义“自动软件程序”的任务交给了联邦贸易委员会（Federal Trade Commission，FTC），这为该法案留下了广泛的解释空间，超出了法案本身旨在限制自动程序的目的。

时间：2019年10月

主要内容：草案旨在防止算法自动化决策造成对消费者的歧视，要求大型互联网平台企业评估并消除其自动决策算法给消费者信息隐私和安全带来的风险，以及因种族、肤色、宗教、政治信仰、性别或其它方面差异带来的算法歧视与偏见。法案赋予FTC执行和监管的权力，要求企业研究并修复存在缺陷的、会导致人们产生不准确、不公平、有偏见或歧视性决策的算法。该法案是美国国会第一次认真尝试监管人工智能，也是美国第一次立法尝试在总体上监管人工智能系统，而不是监管自动驾驶汽车等特定技术领域。

时间：2019年2月11日

主要内容：时任总统特朗普签署的第13859号行政令，指出美国在人工智能领域的持续领导对于维护美国经济和国家安全并以符合美国价值观、政策和优先事项的方式塑造人工智能的全球演变至关重要。旨在刺激美国人工智能的发展和监管，并通过指示联邦机构优先投资人工智能领域的研发，增强美国国家和经济安全，巩固美国的全球地位。法案中列出了五个关键领域：加大人工智能研发投入、开放人工智能资源、设定人工智能治理标准、培养人工智能劳动力，以及国际协作和保护美国人工智能优势。人工智能项目由国家科学技术委员会（NSTC）人工智能特别委员会（Select Committee on Artificial Intelligence）协调。这份行政令的出台是美国政府推动人工智能发展的一个里程碑事件，对于美国人工智能的研发和应用具有重要引领作用。

时间：2020年3月

主要内容：该法案吸收了包括“美国人工智能计划”在内的多项联邦人工智能政策与措施，后被打包纳入《2021财年国防授权法》并于2021年1月生效。法案要求美国制定并实施“国家人工智能计划”，以解决美国人工智能发展面临的一系列问题。依据此法案，美国白宫科学技术政策办公室（OSTP）宣布成立国家人工智能计划办公室和国家人工智能咨询委员会，并建立或指定一个机构间委员会，以更健全完备的组织机构推动“国家人工智能计划”实施。

该法案显示了两党对美国政府在AI领域长期努力的大力支持，并将美国政府现有的许多AI政策和举措编入法律并加以扩展。例如，将美国AI计划确立的5项关键任务纳入法律，扩大2018年成立的人工智能专责委员会并使其成为常设机构，承认2020年成立的国家AI研究所的合法地位，规定要对2019年发布的国家AI研发战略规划进行定期更新，将白宫2019年指导的关键AI技术标准活动扩展至包括AI风险评估框架等。

时间：2020年5月

主要内容：法案旨在“确保美国制定并实施保护美国价值观和领导力的人工智能战略。识别供应链的风险并制定降低这些风险的计划。”

该法案要求美国商务部和联邦贸易委员会明确人工智能在美国应用的优势和障碍；调查其他国家的人工智能战略，并与美国进行比较；评估供应链风险以及如何解决这些风险。此外，法案要求这些机构向国会报告结果，并制定国家人工智能战略的建议。

时间：2020年6月

主要内容：法案将算法自动化决策纳入监管，提出消费者应当有权质疑收集数据的理由并要求人工对算法自动化决策进行审查和解释。

时间：2020年9月

主要内容：法案旨在通过在总务管理局（GSA）内部建立“优秀人工智能中心”，并要求管理和预算办公室（OMB）向联邦机构发布一份关于人工智能治理方法的备忘录，以促进联邦政府助力开发人工智能创新应用。同时还要求科学技术政策办公室就人工智能的安全应用和最佳实践向各联邦机构发布指导。

时间：2021年5月

主要内容：法案致力于落实人工智能国家安全委员会（NSCAI）最终报告给出的建议，通过改进人才招募制度，使各机构能够更快地采用新的AI技术，增强政府使用人工智能的能力和透明度。该法案赋予了国防部（DOD）、能源部（DOE）、情报共同体（IC）和联邦调查局（FBI）新的权力和资源，以确保联邦政府更好、更安全地利用快速发展的AI技术。

时间：2021年5月

主要内容：法案建立在《人工智能倡议法案》(AI-IA)、《武装部队数字优势法案》等基础上，旨在实施NSCAI提出的与军方技术人员有关的其他建议，改善军队各级人员的人工智能教育与培训计划，使其能更好地使用人工智能。具体来说，该法案改善了针对初级军官和国防部领导的AI和新兴技术主题教育和培训，以便军事部门更好的利用AI。

时间：2022年6月

主要内容：尽管法案还未正式颁布，但该法案的草案是第一个获得两党和两院支持的美国综合性联邦隐私法案（草案）；旨在联邦层面建立消费者隐私数据保护法律框架，为美国消费者提供了隐私权保护和有效的补救措施。

该草案对“算法”的定义是“来源于机器学习与人工智能技术的、以代替人工或为人提供帮助为目的的、依据数据处理结果做出决策的计算处理程式”。草案规范此类处理技术的应用，它反映出数字时代美国数据隐私保护的价值理念，在制度设计上既体现了强化个人数据权利保护的国际趋势，又有利于数据价值释放的内容，如“选择退出”机制、有限的私人诉讼权、数据处理企业的忠诚义务等。

时间：2022年10月

主要内容：美国白宫发布，表达了拜登政府对使用人工智能技术的未来愿景，希望能刺激企业更负责任地打造和部署人工智能，并对基于人工智能的监控进行限制。

尽管《人工智能权利法案蓝图》只是一个不带有强制性的行动准则，但它的重要性也不可低估。该白皮书提出了开发或部署人工智能的公司需要自愿遵循的准则，以保障人们的信息免受误用或滥用。在没有颁布具体法律之前，对于这些准则的遵守将是选择性的。

该文件旨在通过“赋予美国各地的个人、公司和政策制定者权力，并满足拜登总统的呼吁，让大型科技公司承担责任”，以“设计、使用和部署自动化系统的五项原则，从而在人工智能时代保护美国公众”。这五项原则为：（1）安全有效的系统；（2）算法歧视保护；（3）数据隐私；（4）通知和解释；（5）人工替代、考虑和回退。该文件的出台将从科技、经济以及军事等方面为美国人工智能发展提供指引。

人工智能具有模糊性、复杂性、自主性和无法预测性等特征，可能给社会带来诸多风险和问题。为确保人工智能的发展尊重人权并且安全信任，2021年4月21日，欧盟发布了《人工智能法案》（Artificial Intelligence Act）的第一稿，探索为人工智能治理提供“硬法” 支持，旨在促进创新，并为设定一个全球标准，人工智能技术被广泛应用于从自动驾驶汽车、聊天机器人到目前中美自动化工厂等各个领域。

2023年3月，该法案的草案已经提交欧盟议会一读，如获通过，将成为具有约束力、可在欧盟成员国内直接适用的法律，而且对于国际人工智能安全相关规则的制定也有十分重要的参考价值，因此接下来着重单列介绍这份《人工智能法案》的内容。

欧盟内部统一法律框架、全球范围内首部系统化规制人工智能的法律。标志着人工智能治理从原则性约束的“软法”向更具实质性监管的“硬法”加速推进。

保护人权、宣扬欧盟价值观、保护AI商品服务的自由流动。

在欧盟投放市场、投入服务和使用的AI系统（含欧盟外开发和使用，但输出数据在欧盟使用的情形），但为军事目的研发的情形除外。

统筹主管：新设欧盟人工智能委员会（European Artificial Intelligence Board）。

公告监管：成员国指定主管机构负责执行，定期向委员会报告。

专项负责：提议为非高风险的人工智能系统制定自发性行为准则，建立监管沙盒（regulatory sandbox）以促进创新。

禁止：被认为对人们的安全、生计和权利有明显威胁的人工智能系统将被禁止。包括：以个人无法认知的方式，采用潜意识教化技术严重扭曲个人行为或者利用特定群体的年龄、残障或者特定社会或经济处境等弱点，其目的旨在或者效果为严重扭曲与该群体相关的人的行为，业已或可能对个人生理或心理造成伤害的人工智能系统，以及根据自然人的社会行为或者已知或预测的个性特征或人格特征，在一定时期内对自然人进行评估或分类，但其所产生的社会评分可能造成自然人或其整个群体在社会环境中受到不利或不适宜待遇的人工智能系统。
高风险：可能对个人健康、安全及基本权利产生重大有害影响的人工智能。草案虽然未作明确界定，但给出了高风险人工智能系统的判断标准。

其他风险：除上述以外的AI，如合规但存在一定风险的情形。

其他欧盟人工智能安全相关法律法规介绍如下：

时间：2016年通过，2018年生效

主要内容：欧盟为解决互联网时代用户数据的收集、使用问题而制定。将取代欧盟于1995年通过的《数据保护指令》（Data Protection Directive），适应云计算、互联网、大数据。该条例旨在限制互联网及大数据企业对个人信息和敏感数据的处理，从而保护数据主体权利。同时，GDPR相比其前身——1995年《数据保护指令》，对欧盟各成员国具有直接适用的效力，无需成员国再自行转化为国内法。

时间：2019年

主要内容：准则包括七项要素：人的能动性和监督、技术稳健性和安全性、隐私和数据管理、透明度、多样性和非歧视性以及公平性、社会及环境福祉、问责制。

时间：2022年6月生效

主要内容：法案于2020年11月被首次提出，是《欧洲数据战略》框架下第一份立法草案。总体而言，《数据治理法案》强调规则创新，鼓励数据共享、提高数据利用效率，进而让数据资源的流转利用服务更高的公共政策目标。一是建立公共部门持有数据的再利用机制。二是建立框架以促进数据中介机构的发展。三是对于数据利他行为做出规范化的引导。

此外，《数据治理法案》第六章规定成立欧洲数据创新委员会，就包括关于数据共享服务提供商、跨行业数据共享、数据再利用等提供咨询意见。

除美国、欧盟外，日本、新加坡、加拿大和德国走在了人工智能安全领域立法的前沿，且根据各国科技基础能力与战略发展需求形成了各有侧重的立法方向。如日本一向重视前沿科技的官产学合作并积累了丰富经验，因此在面临人工智能安全带来的法律问题，选择从个人信息和数据保护入手，通过明确数据主体的权责划分，推动政府和企业形成协同研发网络，构建有利于人工智能安全发展的生态系统。德国进行立法活动时则是注重依托工业资源优势，试图打造人工智能融合“工业4.0”的德国特色。因而其人工智能安全相关立法十分关注技术对经济和生活的影响，重点关注自动驾驶、智能医疗这些紧扣改善人类经济和生活的主题。新加坡和加拿大则是重点关注人工智能这一战略性技术为经济、社会赋能的巨大价值，从数据、安全监管入手开展相关立法，以推动人工智能成为本国数字化转型浪潮中的核心驱动力量。其他主要国家人工智能安全相关法律法规主要内容如下：

国家：新加坡

时间：2020年11月通过

主要内容：该修正案为新加坡的个人数据保护提供了基本准则，补充特定行业的立法和监管框架，旨在保护数据主体的个人数据并且规范数据处理者的数据处理行为。

国家：德国

时间：2021年7月

主要内容：法案旨在为无人驾驶技术的落地运营提供法律依据和监管框架。法案最大的一个亮点是为具备L4级自动驾驶系统的汽车在公路指定区域实现常规运营提供合法性基础，并规定了相应的技术要求、行驶条件和数据处理规则。德国由此成为全球首个允许无人驾驶车辆参与日常交通并应用在全国范围的国家。

该法另一个亮点是创设了针对“自动驾驶功能”的技术监督员制度。据此，智能汽车保有人有义务采取必要措施，维护道路安全和车辆的环境相容性，并承担相应法律责任。这些义务包括定期维护系统以确保自动驾驶功能正常，采取预防措施以遵守交通规则，履行技术监督义务。为履行该义务，车辆保有人必须指定有专业知识的自然人担任技术监督员远程监控车辆，干预自动驾驶系统。

国家：日本

时间：2021年8月

主要内容：修正案主要涉及六大方面：①数据主体的权利；②企业责任；③企业自我完善机制；④数据使用策略；⑤处罚；⑥法案的域外适用性和数据的跨境传输。

此外，该修正案引入“需要特别注意的个人信息”“个人相关信息”“假名化信息”的概念；加强个人数据跨境传输中跨境传输方对数据主体的告知义务。旨在通过扩大数据主体的权利和增加企业的义务来加强对个人信息的保护。

国家：加拿大

时间：2022年6月

主要内容：该法案旨在规范人工智能系统中的国际和省际贸易和商业。为此，法案规定：应当采取措施降低高影响人工智能系统存在的伤害和偏差输出风险；提供人工智能的公开报告；授权创新、科学和工业部长制定人工智能系统相关政策，制定“拥有或使用非法获取个人信息”的相关禁令，以保护数据隐私权，实现安全可靠地设计、开发、使用或提供人工智能系统。

在前文的梳理中可以感受到，当前世界主要发达国家和地区均已关注到人工智能安全立法问题的重要性，以人工智能重点问题为出发点，积极起草、出台人工智能安全治理相关的法律法规，国际人工智能安全治理的法治化水平逐步提高。而且，各国开展的这些立法活动通常带有鲜明的本国特色，如一体化趋势下欧盟率先探索构建统一法律框架、德国人工智能安全立法方向与工业4.0战略契合等，其实质是确保人工智能的发展始终服务地区或国家安全的体现。