首届全球 AI 安全峰会通过《布莱切利宣言》

一场关于前沿 AI 的全球会议

2023 年 11 月 1 日至 2 日，英国在布莱切利园（Bletchley Park）召集了首届全球 AI 安全峰会^[1]。会议关注的焦点是所谓「前沿 AI」（frontier AI），即某一时期能力最强的那些模型——它们的行为很难被事先完整规定或充分测试。峰会的主要成果是一份政治性宣言：各国政府对问题形成共同理解，而不是签署一套有约束力的技术规则。

《布莱切利宣言》说了什么

2023 年 11 月 1 日，包括美国、中国和欧盟在内的 28 个国家就《布莱切利宣言》达成一致^[1]。宣言就前沿 AI 带来的机遇与风险建立了共同理解^[1]，既写下了这项技术可能带来的好处，也写下了各国认为需要关注的危险。

在风险方面，各国一致认为，重大风险可能来自两条路径：前沿 AI 被有意滥用，以及非预期的失控问题^[1]。宣言特别点名网络安全、生物技术和虚假信息是尤其令人担忧的领域^[1]。宣言还指出，源自这些模型最显著能力的潜在危害可能是严重的、甚至是灾难性的，无论是有意还是无意^[1][2]。

宣言也为各国如何理解这些风险定下了方向。各国决心支持一个国际性、包容性的前沿 AI 安全科学研究网络^[2]——这项工作的着眼点是共同的科学攻关，而不只是各国各自评估。

宣言之外的安排

峰会为后续讨论排出了时间表。韩国同意在六个月内共同举办一次小型的线上峰会，法国同意在一年后主办下一次线下峰会^[1]。

与宣言同时宣布的还有机构层面的安排。英国宣布将建立全球首家 AI 安全研究所（AI Safety Institute）^[1]。英国还委托 Yoshua Bengio 主持一份国际性的「科学现状」（State of the Science）报告，梳理前沿 AI 的能力与风险^[3]，目的是把研究界已有的认识汇总起来。

宣言在峰会后仍然开放给更多国家签署。2024 年 10 月 23 日，新西兰加入了对《布莱切利宣言》的承诺^[2]，此时距峰会已接近一年。

为什么重要

这次峰会的意义，与其说在于某一项具体承诺，不如说在于「达成一致」这件事本身。在 AI 发展上相互竞争的国家——包括美国、中国和欧盟——共同认可了对前沿系统可能出什么问题的同一套描述，也共同列出了一份担忧清单：滥用、失控、网络与生物风险、虚假信息^[1]。这为之后的国际讨论提供了一套共同的词汇。

会议留下的也不只是一纸声明，还有正在运转的机制：一个明确挂牌的国家级研究所、一份由国际学者主持的科学报告、一个拟议中的研究网络，以及在韩国和法国继续开会的日程^[1][3][2]。这些机制的作用是产出并共享关于模型能力与风险的证据——在规则能够被写出之前，这类工作必须先做起来。

宣言对不确定性的表述同样明确：它谈的是「可能」来自滥用或非预期失控的风险，谈的是这些模型最显著能力所「可能」造成的严重危害^[1][2]。既保持审慎、又不设具体禁令，既合作、又不签条约——这就是首届全球 AI 安全峰会实际达成的框架。