背景
2026 年 11 月 18 日,加州州长加文·纽森(Gavin Newsom)发布了加强本州 AI 安全框架的新建议[1]。这些建议是在一项行政令之下形成的。该行政令召集了一组专家,为本州 AI 安全法律的更新提出建议[1]。
发生了什么
建议提出,由州政府而不是企业自己,为所有 AI 公司设定基线安全标准[1]。建议还提出,在模型训练、开发和部署的所有阶段,都要进行强制性的独立安全测试和验证[1]。
关键细节
建议提出扩大安全事件报告,并建立经过验证的风险遏制机制,同时赋予州政府在紧急情况下下令立即关停的权力[1]。建议还提出,州政府有权限制递归式自我改进(recursive self-improvement)的开发和使用[1]。递归式自我改进指 AI 系统改进自身设计或能力的过程。
公告称,州政府正在加速推进两项法案。其中 SB 813 设立独立验证机构的框架,AB 1405 建立面向 AI 审计人员的州级登记制度[1]。
建议中的几个术语需要说明。行政令(executive order)是政府首长发布的、指导行政机构工作的命令,这里用来召集专家,为更新州法律提供意见。基线标准指适用于所有对象的最低要求。独立验证指由公司之外的第三方,检查某个系统的安全宣称是否成立。AI 审计人员是检查 AI 系统合规和风险的人员,州级登记制度则是把这些人员列入官方名录的做法。
影响
纽森呼吁国会和特朗普总统审议并采纳加州的框架,或者把它作为底线而非上限来使用[1]。底线是其他规定可以在其之上继续加码的最低标准,上限则是不能超过的最高标准。
来源
- 1Governor Newsom's nation-leading AI safety framework is getting even strongerGovernor of California
引用本页: 加州发布强化 AI 安全框架的建议. TellWorld, https://www.tellworld.net/zh/news/california-ai-safety-recommendations-2026. 更新于 2026-11-20