七家 AI 公司向白宫作出自愿承诺

背景

生成式 AI（generative AI）系统能写文本、合成图像、生成音频和视频，近几年从实验室走进大量日常产品。这类工具产出的内容常常难以与人类作品区分，因此「发布前怎么测、发布时怎么标识、发布后怎么发现和报告问题」成为公共讨论的焦点，各国政府也在寻找既能推动技术发展、又能约束风险的办法。

白宫会议

2023 年 7 月 21 日，美国总统拜登在白宫召集七家主要 AI 公司：亚马逊（Amazon）、Anthropic、谷歌（Google）、Inflection、Meta、微软（Microsoft）和 OpenAI^[1]。白宫方面表示，已从这些公司获得自愿承诺（voluntary commitments），以推动 AI 技术朝着安全、可靠、透明的方向发展^[1]。这些承诺被整理为八项措施，覆盖企业对自家系统的测试、标识、说明和信息共享^[2]。

八项承诺的内容

给音视频加水印。 企业承诺在音频和视频内容中使用水印（watermark）。水印是嵌在内容本身里的标记，拿到一段素材的人可以借此判断它是否由 AI 生成^[2]。

测试与独立评估。 企业承诺对工具进行内部和外部测试，并在公开发布前由独立专家评估安全性^[1][2]。这等于在产品交到用户手里之前，先让公司之外的人做一道检查。

共享信息。 企业承诺与其他从业者、政府和外部专家共享最佳实践信息，并共享有人试图绕过安全措施的情况^[2]。这一条把范围从七家签署企业扩展到了同行和公共机构。

网络安全。 企业承诺投入网络安全措施，并鼓励第三方寻找和报告漏洞^[2]。

说明局限。 企业承诺报告其技术的局限，并引导 AI 工具被恰当使用^[2]。

研究社会风险。 企业承诺优先开展 AI 社会风险研究，包括歧视和隐私问题^[2]。

应对重大挑战。 企业承诺用前沿 AI 系统（frontier AI，能力处于最前沿的一类模型）应对气候变化、疾病等重大社会挑战^[2]。

影响

这些承诺是自愿性质的，不是写进法律、必须照做的要求：企业是自己同意，而不是被监管强制^[1]。把这八项放在一起看，它们覆盖了一个产品从发布前到发布后的几个环节。发布前是内部与外部测试，包括独立专家的评估；发布时是给音频和视频加水印，以及公开说明系统的局限；发布后是让第三方报告漏洞，并共享有人试图绕过安全措施的情况^[1][2]。

这些承诺也涉及企业与外部世界的关系。最佳实践和绕过安全措施的尝试，不只在这七家公司之间共享，还要与政府和外部专家共享；第三方也被鼓励去寻找和报告弱点^[2]。白宫以公开的情况说明列出了参与企业和具体措施，把这份清单记录在案^[1][2]。白宫方面的说法是，这些承诺是朝着安全、可靠、透明地发展 AI 技术迈出的一步^[1]。