美国加州为何否决大模型安全法，却签署了AI透明度法？立法选择重塑人工智能和隐私制度

扫码立即加入学习！

来源：IAPP 整理：何渊

作者：Joe Duball

阅读时间：5分钟

加州2024年立法会议的结果可能成为该州在人工智能治理和隐私领域最具影响力的事件之一。在9月30日通过2024年法案的最后期限前的几天内，加州州长加文·纽森（Gavin Newsom，民主党）推动了这些影响的发生。

在隐私和人工智能法案中，最引人注目的是纽森最后一刻否决了参议院《前沿人工智能模型的安全与保障创新法案》（SB 1047），这是一项备受讨论的具有里程碑意义的人工智能安全提案。如果通过，该法案可能为其他州和美国国会设定立法标准。

纽森在向加州议会发出的否决信中写道：“虽然初衷是好的，但SB 1047并未考虑人工智能系统是否部署在高风险环境中，是否涉及关键决策或是否使用敏感数据。相反，只要是大型系统部署的，该法案就对即使是最基本的功能也适用严格的标准。我认为这不是保护公众免受技术实际威胁的最佳方式。”

SB 1047 法案的细节

SB 1047要求受监管的实体对其人工智能模型进行筛查和审核，以防止潜在的网络安全和基础设施风险。该法案还提议赋予加州总检察长寻求禁令救济的权力，并在公司人工智能造成大规模损害时提起诉讼。

SB 1047的起草者、加州州参议员斯科特·维纳（Scott Wiener）在一份声明中指出，否决该法案意味着“错失机会”，并且在该州和全国在没有“约束性限制”的情况下继续推进人工智能时，创造了一个“令人不安的现实”。

维纳补充道：“开发先进人工智能系统的公司承认这些模型带来的风险是真实且迅速增加的。虽然大型人工智能实验室做出了值得赞扬的承诺，监控并减轻这些风险，但事实是，行业自愿的承诺无法执行，且很少对公众有利。”

人工智能初创公司Anthropic在立法过程中逐渐支持了SB 1047的部分内容，但最终认为该法案的核心目标会削弱人工智能的创新。Anthropic联合创始人杰克·克拉克（Jack Clark）在社交平台X上发文称，SB 1047是“朝着必要的风险缓解迈出的有希望的第一步”，但需要“许多人共同努力，找到适合人工智能系统的正确规则”。

克拉克补充道：“Anthropic将与行业、学术界、政府和安全领域的人士对话，明年达成共识，并尽我们所能确保无论我们达成何种政策，都能适当平衡支持创新和避免灾难性风险。”

《生成式人工智能训练数据透明度法案》AB 2013 法案通过

尽管纽森否决了SB 1047，但他通过了另一项人工智能治理法案（AB 2013），这将无疑改变人工智能治理的格局。该法案侧重于训练数据透明度，规定了前所未有的要求，要求生成式人工智能模型所使用的数据集必须提供摘要和其他必要的文件。AB 2013将于2026年1月1日生效，适用于2022年1月1日后创建的任何定义的生成式人工智能系统或服务。

拟议的CCPA修正案

今年，纽森桌上有多项旨在修改《加州消费者隐私法》（CCPA）的法案。其中一些法案在纽森的签署期内已被处理，包括对第3048号议会法案（AB 3048）的否决。该法案本来会禁止企业维护不允许消费者使用通用退出信号来针对广告进行投放的网站浏览器。

然而，纽森将一些重要的CCPA修正案法案留到了最后几天处理。

尤其值得注意的是，纽瑟姆选择否决了第1949号议会法案（AB 1949），该法案提议让CCPA覆盖所有未成年人。根据现行规定，CCPA适用于17岁以下的未成年人，而该法案试图将这一范围扩大至18岁以下。

在否决声明中，纽森表示该法案将“从根本上改变CCPA的结构”。

他写道：“我担心对CCPA做出如此重大改变会对企业和消费者的互动方式产生意想不到的、潜在的不利影响，对儿童隐私的影响尚不明确。”

与此同时，纽森确实通过了一项更清晰地将神经数据纳入CCPA的法案。参议院第1223号法案（SB 1223）将神经数据作为加州法律下的敏感个人数据类别，在某些情况下为此类数据提供更高的保护。

加州参议员乔希·贝克尔（Josh Becker）告诉《纽约时报》：“在加州保护神经数据的重要性不可低估。我们必须明确保护神经数据的隐私，这是一组非常重要的数据，属于个人。”

CPPA会议在即

在所有关于隐私和人工智能的立法行动或缺失中，加州隐私保护局（CPPA）希望在这两个议题上推进其监管议程。

CPPA董事会计划于10月4日召开会议，讨论熟悉的议程项目，包括就自动化决策技术、风险评估和网络安全审计的一揽子草案法规采取正式立法行动的可能性。

这些草案规则在最近几个月停留在预立法阶段，因为CPPA董事会在制定自动化决策技术规则（ADMT）时采取了正确的策略。此外，董事会成员一直在权衡该机构是否应采取ADMT规则制定，还是让州立法者通过立法提案来处理规则。