Anthropic 更新负责任扩展政策

背景

《负责任扩展政策》（RSP）第一版设定了 AI 安全等级（ASL），并规定何时需要更强的防护。一年后，Anthropic 对其进行了修订。^[1]

发生了什么

2024 年 10 月 15 日，Anthropic 发布 RSP 的重大更新，即 2.0 版。^[1][2]

关键细节

更新为两个领域定义了能力门槛：自主 AI 研发，以及 CBRN 武器协助。达到任一门槛都将触发更强的防护。^[1]

达到 CBRN 门槛需要 ASL-3 标准；自主 AI 研发则可能需要 ASL-4 或更高等级的安全保障。^[1]

当时，Anthropic 的所有模型都在 ASL-2 下运行。^[1]

公司披露了第一年的一些小幅未达标情况，例如有评估晚了三天完成。^[1]

Jared Kaplan 出任负责任扩展官，接替 Sam McCandlish；后者继续担任首席技术官。^[1]

能力门槛指模型的能力达到某一水平、需要额外防护的判断标准。事先设定门槛，意味着发布决定依据明确的规则，而不是逐案临时判断。

影响

此次更新使政策的触发条件更加具体，也明确了负责人。后续版本依次为 2025 年 3 月 31 日发布的 2.1 版和 2025 年 5 月 14 日发布的 2.2 版。^[2]