四家公司成立“前沿模型论坛”

四家模型开发公司共同发起

2023年7月26日，Anthropic、Google、Microsoft 和 OpenAI 宣布成立“前沿模型论坛”（Frontier Model Forum）^[1]。论坛被设为一家行业组织，关注点是确保前沿 AI 模型的安全、负责任开发 ^[1]。按照发布时的说法，它提供一个共同的场合，让参与公司围绕能力最强的机器学习系统所涉及的安全问题一起做事 ^[1]。

它如何定义“前沿模型”

论坛把前沿模型定义为大规模机器学习模型：它们的能力超过现有最先进的模型，并且能够完成多种多样的任务 ^[1]。这个定义是相对的，而不是固定的：一个模型之所以属于这一类，是相对于当时已经存在的模型而言，同时也看它能处理的任务范围有多宽 ^[1]。定义本身没有把这一说法绑定到某个特定的模型规模、训练方法或基准分数上 ^[1]。

公布的目标

论坛列出了四项目标：推进 AI 安全研究；为前沿模型确定最佳实践；向政策制定者、学术界和公民社会分享知识；支持面向社会挑战的 AI 应用 ^[1]。

论坛表示将借助成员公司的技术和运营经验来开展这些工作，具体包括推进技术评估与基准测试，以及建立一个公开的解决方案库 ^[1]。在说明工作重点时，论坛提到三个方面：确定最佳实践、推进 AI 安全研究、促进公司之间以及公司与政府之间的信息共享 ^[1]。

论坛还表示将设立一个顾问委员会（Advisory Board），帮助确定其战略与优先事项 ^[1]。

谁能加入

成员资格向这样的组织开放：开发并部署前沿模型，对前沿模型安全作出明确承诺，并愿意为联合行动作出贡献 ^[1]。发起成员是 Anthropic、Google、Microsoft 和 OpenAI ^[1]；2024年5月，Amazon 和 Meta 加入了论坛 ^[2]。

这份公告交代了什么

把公布的目标放在一起看，论坛描述的工作大致有三类：AI 安全研究；把前沿模型开发者应当遵循的做法写成条文；把信息向外传递给政策制定者、学术界和公民社会，并在公司之间、公司与政府之间流动 ^[1]。成立时点明的具体产出是技术评估与基准测试，以及一个公开的解决方案库 ^[1]。顾问委员会则被描述为确定战略与优先事项的机制 ^[1]。

因此，这个论坛处在这样一个位置上：几家构建大规模模型的公司用一份共同文件，说明了这类模型应当如何界定、它们打算研究哪些安全问题，以及谁有资格加入这项工作 ^[1]。