美国加州通过AI 透明度法案，明年1月1日起生效（附解读）

2024年9月19日，《加利福尼亚人工智能透明度法案》（SB 942, Becker. California AI Transparency Act，以下简称“《法案》”）获州长批准并向州务卿提交，将于2026年1月1日起生效。

该《法案》旨在提供人工智能系统生成内容的透明度。根据官方发布的“立法顾问摘要（LEGISLATIVE COUNSEL'S DIGEST）”和法案条文，主要内容如下：

一、适用范围

《法案》适用于“被覆盖的提供商” （以下简称“提供商”），具体是指“创建、编码或以其他方式生产生成式人工智能系统的个人或实体，该系统在州地理边界内公开可访问，并且每月访客或用户超过100万”。

《法案》中的“生成式人工智能系统”（以下简称“GenAI系统”）是指“能够生成衍生的合成内容的人工智能，这些内容包括模仿系统训练数据的结构和特征的文本、图像、视频和音频”。

二、透明度义务

（1）应向用户免费提供满足特定标准的AI检测工具

《法案》提出，除了不收取费用、公开可访问等要求外，提供商应当向用户的AI检测工具还应满足以下标准：

能够允许用户评估图像、视频或音频内容，或上述内容的任意组合，是否由供应商的GenAI系统创建或更改；
能够在输出的内容中检测到来源于任何来源的数据；
不会输出内容中检测到的任何个人来源数据（Personal provenance data），这里的“个人来源数据”，是指“个人信息”或者“能够合理地与特定用户关联的独特设备、系统或服务信息”；
*该条规定扩大了在GenAI系统中个人信息保护的覆盖数据类型范围。
允许用户上传内容或提供链接到在线内容的统一资源定位器（URL）；
支持应用程序编程接口，允许用户无需访问提供商的互联网网站即可调用该工具。

（2）向用户提供披露关于GenAI系统系列信息的选项

《法案》提出，提供商应为用户提供一个选项，该选项允许在由其GenAI系统创建或修改的图像、视频或音频内容或任何组合的内容中加入清单披露，披露包括“显性披露”（manifest disclosure）和“潜在披露”（latent disclosure）。

“显性披露”是指GenAI系统生成内容中易于被自然人感知、理解或识别的披露，需满足以下标准：

需标识内容为AI生成的内容；
必须清晰、显眼、适合内容媒介，并且对于合理的人来说已于理解；
在技术可行的情况下，披露应是永久性的或极其难以移除。

“潜在披露”是指非显性披露，但存在于GenAI系统生成内容的元数据中。在技术上可行和合理的情况下，该披露应直接或通过链接到永久互联网网站来传达有关内容来源的以下信息：

提供商的名称；
创建或修改内容的GenAI系统的名称或版本号；
内容创建或修改的时间和日期；
一个唯一的标识符；
能够被提供商的AI检测工具所识别；
符合广泛接受的行业标准；
在技术可行的情况下，披露应是永久性的或极其难以移除。

此外，《法案》还规定，如果提供商将其GenAI系统授权给第三方，那么提供商应通过合同要求被许可人保持系统在创建或修改内容时能够包含“潜在披露”相应条款要求的披露。如果提供商知道第三方被许可人对其授权的GenAI系统进行了修改，导致该系统不再能够在创建或修改的内容中包含“潜在披露”相应条款要求的披露，则提供商应在发现被许可人行为后的96小时内撤销许可证。

三、法律责任

《法案》将使违反这些规定的被覆盖的提供商承担每项违规5,000美元的民事罚款，此罚款可通过总检察长、市检察官或县法律顾问提起的民事诉讼追缴。

对于第三方许可人违反在系统许可被撤销后停止使用授权GenAI系统的要求的行为，《法案》允许总检察长、县法律顾问或市检察官提起禁令救济的民事诉讼，并追缴合理的律师费和成本。

小结

加利福尼亚作为在数据保护立法领域走在前沿的州，在AI发展浪潮下也在积极探索适当的AI治理和监管方式。

今年9月底，因存在诸多不合理内容而备受产业界反对和讨论的被加州州长Gavin Newsom否决，Gavin表示“像SB-1047种一刀切的方法会抑制在某些领域的创新和AI技术的发展，而且法案的规定可能难以实施，因为它们没有为不同类型的AI模型、应用提供明确的指导”，明确释放了加州在AI时代平衡创新的态度。

而本文所述的AI透明度法案以更为有操作性和针对性的方式定义了对GenAI系统透明度的要求和规则。尽管为符合该法案要求，GenAI系统的提供商仍然需要投入资源开发和维护AI检测工具和适当的信息披露机制；但对于用户而言，透明度的提升也意味着对GenAI系统信任水平的提升，从长远的角度考虑，仍然对促进GenAI系统的创新和应用有积极影响。

参考资料：

1. SB-942 California AI Transparency Act.(2023-2024)，https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240SB942

2. 《重磅！美国取消SB-1047法案，OpenAI、谷歌、Meta大难不死！》，载于 “AIGC开放社区”微信公众号，https://mp.weixin.qq.com/s/-x6I8h8wWgGsYBqO9APD5w

END

社会的数字化转型和智能化发展深刻改变着各行各业的运行模式，收集、处理和共享个人信息日益频繁，全球各国和地区都高度关注如何在数字化时代保护个人信息，防止数据滥用和泄露。

2024年10月29-30日，由下一代互联网国家工程中心举办的2024GDTC全球数据技术大会即将在北京燕莎中心凯宾斯基饭店举办。是大会的首个论坛，旨在汇聚全球的产业创新者和个人信息保护与数据安全领域的专家、学者、实践者，深入探讨隐私保护技术的最新发展与挑战。论坛重点关注隐私保护如何在网络、数据、AI模型、产品服务和应用等方面通过技术和工程化方式落地，并应用于解决数据流通中的透明、信任、安全问题。

2024GDTC“全球数据技术大会”即将在京开幕

GDTC

2024

大会同期还将举办“隐私计算与区块链论坛”、、“高速数据网论坛”以及。

目前大会及各个论坛报名火热进行中，扫描下方二维码即可报名参会。

产品服务

前瞻研究

中心动态

数据信任与治理

“数据信任与治理”由下一代互联网国家工程中心运营。放眼全球数据治理前沿理论与实践进展，探索可信数据治理的中国模式，促进数据要素有序流通，释放数字经济红利。

TDG focuses on the cutting-edge theory and practice of global data governance, explores the Chinese model of trusted data governance, promotes global data flow, and fulfills the potential of the digital economy.