加州AI法案引争议，科技巨头联合反对，各界意见不一

关注我们，学习更多隐私合规讯息

加州成为人工智能监管的焦点。美国的AI初创企业、科技巨头和学术界联合反对加州的SB-1047法案，认为该法案会抑制AI创新。但支持者认为，AI监管比理发店的监管还少，监管少有利于AI行业发展。

8月6日，“AI教母”李飞飞在社交媒体上指出，尽管一项法案的初衷是好的，但实际上它难以实现目标，并可能对人工智能学术界和开源社区造成严重伤害。

她强调，人工智能是一项重要的文明技术，需制定鼓励创新的政策，同时适度设置限制，以避免不良后果。

但杰弗里·辛顿(Geoffrey Hinton)和约书亚·本吉奥(Yoshua Bengio)等计算机科学研究人员以及法律学者共同致信加州州长，支持SB-1047法案。

他们认为废除该法案将是一个历史性错误，尤其在更强大的AI系统发布后这个错误会更加明显，并称该法案是对AI进行有效监管的最低限度。

SB-1047法案已在加州参议院和州议会委员会通过，几乎没有遭到反对。该法案要求AI大模型开发者进行安全测试，以降低可能造成至少5亿美元损失或大规模人员伤亡的“灾难性伤害”风险。

该法案适用于计算能力达到一定水平且训练成本超过1亿美元的AI模型，无论公司总部在哪里，只要在加州经营业务都受监管。

李飞飞批评这种门槛设定武断，认为这将限制各领域的创新，尤其是学术界，最终使AI生态系统恶化。

法案要求开发人员确保当AI出现危险行为时可以被人类关闭。AI学者吴恩达（Andrew Ng）对SB-1047法案表示担忧，认为如果法案按现有形式通过，将使AI大模型的开发者，尤其是开源开发者，面临责任，进而扼杀创新。

纽约大学教授、Meta首席科学家杨立昆（Yann LeCun）表示，监管应针对应用而非技术，规范基础技术会阻碍创新，并认为让技术开发者为不良使用负责会限制技术发展。

他批评这些规定基于虚构的科幻场景，认为此类监管将扼杀整个AI生态系统，包括初创公司和学术研究。

SB-1047法案遭到产业界的强烈抵制。Y Combinator的卢瑟·洛威认为该法案会阻碍加州的创新。Meta和OpenAI对法案表示担忧，谷歌、微软和Anthropic则提出了大量修正建议。

反对者指出，SB-1047法案未明确测试要求和监督机构的组成。微软在反对意见中表示，该法案的监管架构尚不完善，可能导致投资错位、误导性结果及资源分配失误。

反对者担心，SB-1047法案规定如果存在不合理的风险，可能导致或造成严重伤害，则禁止发布AI大模型。

风险投资公司安德森·霍洛维茨（Andreessen Horowitz）的合伙人安妮·米德哈（Anjney Midha）认为，这一模糊标准会导致法律风险，目前技术无法确保避免这些情况，并担忧该法案会阻止大型开发商公开模型，从而破坏依赖开放性进行创新的生态系统。

加州是AI创新的发源地。吴恩达担心这个反竞争、反创新的提案在立法机构中引起广泛关注，更担忧其他地区效仿加州通过类似法案，可能带来严重后果。

李飞飞表示她支持AI治理，但认为SB-1047的限制过于武断。她在与美国总统拜登的对话中提到需要一种“登月计划”来推动AI教育和研究，但担心该法案会冷却加州的AI生态系统，并对全国AI发展产生负面影响。

旧金山民主党州参议员斯科特·维纳（Scott Wiener）表示他对改革持开放态度，并与科技行业接触。

他认为，尽管科技行业对任何形式的监管都有反对意见，但SB-1047只是将行业制定的安全标准转化为法律，并不是过分的规定。

杰弗里·辛顿(Geoffrey Hinton)和约书亚·本吉奥(Yoshua Bengio)等计算机科学研究人员以及法律学者共同签署了一封致加州州长的信，支持SB-1047法案，反驳了该法案会阻碍创新的说法。

他们指出，法案只适用于最大的AI模型，认为废除该法案将是历史性错误，并认为该法案是对AI进行有效监管的最低限度，相较于面临的风险，这是一项非常宽松的立法。

本吉奥和辛顿都是图灵奖获得者，被称为“人工智能教父”。他们在信中表示，AI系统的监管应该比对三明治店或理发店的监管更为严格。他们自信地认为，面对可能带来灾难性风险的AI系统，需要进行安全测试和常识性预防措施。

本吉奥担心科技公司无法独自解决重大风险，因此需要为前沿技术制定规则。

维纳在接受Vox采访时表示，SB-1047法案已根据开源社区的反馈进行了修改，当前版本免除了原始开发人员在模型失控时的关闭要求，并将重大修改视为新模型，减少了原始开发人员的责任。

在华盛顿，全国范围内的AI监管提议几乎没有进展。然而，科罗拉多州和犹他州最近通过了美国首批AI监管法律，这些法律的监管范围比加州SB-1047法案更窄。

透明度联盟(Transparency Coalition)表示，目前美国各州立法机构正在审议约400项与AI相关的法案，加州立法机构正在处理约30项法案，涵盖范围从知识产权保护到扩大儿童色情定义，包含AI生成图像。

作为IAPP持证人，一定会更加关注这类新生认证的发展前景，也可能会做一个“敢于第一个吃螃蟹”的尝鲜人！扫码观看回放👇🏻

电脑端观看（复制到浏览器打开）：http://navo.top/RNNFRv

还不知道自己要不要考AIGP？不知道自己能不能考AIGP？快点击下方小程序填写表单测试一下👇🏻

『 扫码获取解析，并评估AIGP考试资格』

👇👇👇