首份《国际人工智能安全报告》发布

背景

「前沿人工智能（frontier AI）」指的是某一时期能力最强的通用型人工智能系统：它们在大规模数据上训练，可以被用于各种不同任务，而不是只做一件窄事。正因为同一个系统几乎可以被指向任何用途，任何单一国家的测试都无法给出完整答案。这份报告是在 2023 年布莱切利人工智能安全峰会（Bletchley AI Safety Summit）之后委托编写的，在那次峰会上，30 个国家同意就前沿人工智能的风险与能力建立共同的科学基线^[2]。这里的「基线」并不是各国承诺遵守的最低安全标准，而是一份对现有证据的共同描述，让各自起草规则的政府从同一套事实出发，而不是各说各话。

发布了什么

首份《国际人工智能安全报告》于 2025 年 1 月 29 日发布^[1]。报告由图灵奖（Turing Award）得主 Yoshua Bengio 主持，由 100 多位人工智能专家撰写，并得到 30 个国家和国际组织的支持^[1]。专家顾问委员会的成员由 30 个参与国以及联合国、欧盟和经合组织（OECD）提名^[1][2]，其中包括中国科学院曾毅（Yi Zeng）和美国商务部的 Saif M. Khan^[1]。

报告由英国政府委托编写，由设在英国人工智能安全研究所（UK AI Security Institute）内的秘书处提供支持^[2]。它也不是一步到位的：2024 年 5 月，在首尔人工智能峰会之前先发布了中期报告；首份年度报告则在 2025 年法国人工智能行动峰会之前发布^[2]。

三个问题

报告围绕三个问题组织内容：通用人工智能系统能做什么、会带来哪些风险、有哪些技术可以缓解这些风险^[2]。按这个框架，「能力」指的是一个系统实际能被用来做什么、做得有多可靠；「风险」指的是这些用途可能出错的种种方式；「缓解」指的则是让某种危害更不容易发生、或者发生后不那么严重的技术措施——比如让系统的行为更容易被检查的方法——它与施加在开发者身上的法律或规则是两回事。把范围限定在技术描述上是刻意的：报告为政策制定提供科学信息，但不提出任何政策建议^[2]。它说明已知什么、证据在哪里还薄弱，至于管什么、怎么管，留给使用这份报告的政府和其他机构自己决定。

影响

Bengio 将继续担任主席至 2026 年^[2]。由于 2025 年这份文件被定位为「首份年度报告」，而非一次性的出版物，它确立的形式——由参与国政府以及联合国、欧盟和经合组织提名专家、持续更新的多国证据参考——设想的是不断续做下去^[1][2]。它作为参考文件的价值，很大程度上来自顾问委员会构成的广度：成员中既有中国的研究者，也有美国的研究者和官员^[1]，而这两国的监管思路并不相同；一份只描述科学、不推荐政策的文件之所以有意义，原因也正在这里^[2]。