Anthropic 发布负责任扩展政策（RSP）与长期利益信托

背景

随着模型能力提高，Anthropic 需要书面规则来判断一个模型何时风险过高，必须加上额外防护才能开发或发布。《负责任扩展政策》（RSP）就是它给出的答案。^[1]

发生了什么

2023 年 9 月 19 日，Anthropic 发布 RSP，这是一套管理日益强大的 AI 所带来灾难性风险的规程。^[1] 同一天，公司还介绍了长期利益信托（Long-Term Benefit Trust，LTBT）。^[2]

关键细节

RSP 定义了 AI 安全等级（AI Safety Levels，ASL），其设计大致参照美国的生物安全等级。等级越高，对安全和安保的要求越严格。^[1]

Anthropic 表示，包括 Claude 在内的现有模型似乎属于 ASL-2。ASL-3 的模型需要更严格的安全保障；如果此类模型显示出有意义的灾难性误用风险，公司承诺不予部署。^[1]

董事会批准了该政策。修改政策需要董事会批准，且事先须与长期利益信托协商。^[1]

长期利益信托有五名财务上无利害关系的受托人，他们持有 T 类股，并将在四年内选出董事会的多数成员。^[2] 最初的受托人为 Jason Matheny、Kanika Bahl、Neil Buddy Shah（主席）、Paul Christiano 和 Zach Robinson。^[2]

生物安全等级是实验室的常见做法：处理的病原体越危险，要求的防护和操作规程就越严格。RSP 借用这一思路，把公司必须采取的措施与模型可能带来的危险程度挂钩。因此，安全等级反映的是风险，而不只是模型的性能。

影响

该政策把公司的发布决策与一套明确定义的等级挂钩；信托则让管理层之外的机构参与修改这些规则。后续各版政策都是在这一结构下修订的。