加州州长否决 SB 1047

背景

参议院第1047号法案（Senate Bill 1047，简称 SB 1047）是一项加州法案。它原本要求大型人工智能模型的开发者，以及为训练这些模型提供算力的一方，建立保障措施和政策，以防止灾难性危害^[1]。法案还计划设立一个前沿模型委员会（Board of Frontier Models）^[1]。法案有两个主要部分：一是对构建和训练大型模型的人设定义务，二是设立一个新的公共机构来配合这些义务。据 NPR 报道，法案会让公司对人工智能模型造成的损害承担法律责任，并要求设置“kill switch”（紧急关停机制）^[3]。在送交州长之前，法案已在加州立法机构获得压倒性通过^[3]。这就把最终决定交到州长手里：签署、否决，或者退回而不签署。

发生了什么

2024年9月29日，州长加文·纽森（Gavin Newsom）将参议院第1047号法案退回，没有签署^[1]。在否决声明中，纽森说，法案只关注最昂贵、规模最大的模型^[1]。他写道，这可能会让公众对控制这项技术产生虚假的安全感^[1]。他还写道，规模更小、更专门的模型可能出现，并且可能与 SB 1047 所针对的模型同样危险，甚至更危险^[1]。因此，这份声明没有把模型规模当作风险的可靠替代指标。它指向的是一个缺口：只针对最大模型的法律，可能漏掉在其他地方出现的危险。争议点在于覆盖范围：一项州法律应当覆盖哪些模型、哪些部署场景。

关键细节

纽森写道，SB 1047 没有考虑人工智能系统是否部署在高风险环境中，也没有考虑它是否涉及关键决策或敏感数据^[1]。他还说，加州拥有全球50家领先人工智能公司中的32家^[1]。这个数字被用来说明加州在人工智能产业中的位置：法案要监管的产业有很大一部分就在加州。法案作者、参议员斯科特·维纳（Scott Wiener）说，否决是对监督的一次挫折^[2]。他说，来自行业的自愿承诺不具可执行性^[2]。据 NPR 报道，Geoffrey Hinton 和 Yoshua Bengio 签署了一封信，敦促纽森签署该法案^[3]。这些反对意见同时涉及法案的门槛和背景：一边是规模和成本，另一边是部署环境和数据。

影响

由于纽森把法案退回且没有签署，SB 1047 没有成为法律。它提出的保障措施和前沿模型委员会没有建立。否决留下了一个未解决的问题：加州应当通过针对最大、最昂贵的模型来监管先进人工智能，还是应当考虑部署环境、关键决策和敏感数据，正如纽森所主张的那样^[1]。维纳的回应把选择描述为有约束力的监督与行业自愿承诺之间的选择^[2]。Hinton 和 Bengio 的信表明，法案得到了两位具名签署者的支持，尽管州长不同意它的适用范围^[3]。法案曾在加州立法机构获得压倒性通过，但否决使它未能生效^[3]。对法案支持者来说，否决移除了一个会让公司承担法律责任并要求紧急关停机制的框架^[3]。对州长来说，法案的覆盖范围太窄，不足以匹配他所描述的风险范围^[1]。