Google DeepMind 发布“前沿安全框架”

背景

2024 年 5 月 17 日，Google DeepMind 发表文章，介绍其“前沿安全框架”（Frontier Safety Framework）^[2]。这套框架是一组协议（protocols），目的是主动识别未来可能造成严重危害的 AI 能力，并建立检测和缓解这些能力的机制 ^[1]。它关注的是模型层面的严重风险，也就是模型自身具备的能力。Google DeepMind 举的例子是超常的自主行动能力（exceptional agency）和高级网络能力（sophisticated cyber capabilities）^[1]。

三个组成部分

框架由三部分组成 ^[1]。第一是关键能力水平（Critical Capability Levels）：它描述若干能力门槛，达到这些门槛的能力被认为有可能造成严重危害，需要额外防护。第二是定期评估模型，检测模型是否已经到达这些水平。能力会随模型换代而变化，因此检查要反复进行，而不是做一次就结束。第三是缓解方案：一旦模型通过早期预警评估（early warning evaluations），就启动相应的缓解措施。早期预警评估设在关键水平之下，作用是在模型真正越过门槛之前先发出信号 ^[1]。

最初设定的关键能力水平覆盖四个领域：自主性（autonomy）、生物安全（biosecurity）、网络安全（cybersecurity）、机器学习研究与开发（machine learning research and development）^[1]。自主性指模型能否长时间自行推进目标并采取行动；生物安全指可能被用于造成生物伤害的知识；网络安全指发现和利用软件漏洞的能力；机器学习研究与开发指模型能否自己开展 AI 研究。

两层缓解措施

Google DeepMind 表示，级别更高的安全缓解（security mitigations）能更好地防止模型权重被外流，级别更高的部署缓解（deployment mitigations）则能对关键能力实施更严格的管理 ^[1]。模型权重是训练好的模型所包含的数值参数，一旦外流，开发者就失去了限制模型用途的手段。部署缓解作用在另一头，它限制的是具备危险能力的模型被谁、以什么方式使用和提供。两层措施对应两条不同的风险路径：模型本身被拿走，以及模型被使用。

一种仍在演化的做法

框架遵循的是“负责任的能力扩展”（Responsible Capability Scaling）这一新兴做法 ^[1]，也就是把施加在模型上的防护措施与它达到的能力水平挂钩。Google DeepMind 称这套框架是探索性的，预计它会有较大幅度的演化 ^[1]，并计划在 2025 年初让初始框架完全落地 ^[1]。

这份文件写了什么

具体来说，文章公开说明了一家实验室打算如何检测自家模型的严重能力、目前定义了哪些能力水平，以及模型越过这些水平后准备怎么做。它列出了四个领域，描述了一个随时间反复进行的评估流程，并把安全缓解和部署缓解区分开来 ^[1]。公司同时说明这一版仍是探索性的、会显著变化，并把 2025 年初定为初始框架完全实施的目标 ^[1]。