欧盟人工智能高级别专家组发布《可信人工智能伦理准则》

背景

一项技术一旦被允许参与关乎人的决定，就迟早要回答同一个问题：它什么时候值得信任。对人工智能（artificial intelligence）来说，这个问题格外棘手：这类系统往往不透明，靠数据训练而不是逐行编写，出错的方式也可能是设计者没有预料到的。欧盟人工智能高级别专家组（High-Level Expert Group on AI）以伦理准则的形式给出了一份回答，准则的第一版于 2018 年 12 月公布，通过公开咨询收到 500 多条意见^[1]。

2019 年 4 月的发布与三重条件

2019 年 4 月 8 日，专家组提交了《可信人工智能伦理准则》（Ethics Guidelines for Trustworthy Artificial Intelligence）^[1]。它的核心做法是把「可信」拆成三个必须同时成立的条件：可信的人工智能应当是合法的，遵守所有适用的法律和法规；应当是合乎伦理的，遵守伦理原则与价值；还应当是稳健的，既在技术层面稳健，也在社会环境层面稳健^[1]。三者不能互相替代：一个系统可以完全合法却仍然引发伦理上的问题，也可以在伦理设计上说得通却在技术上经不起意外。准则随后把这一界定变成一张可以对照的清单，提出人工智能系统要被认定为可信，应满足七项关键要求^[1]。

七项要求

第一项是人的能动性与监督（human agency and oversight），可以通过「人在回路中」（human-in-the-loop）、「人在回路上」（human-on-the-loop）和「人在指挥位」（human-in-command）三种方式实现，也就是让人在系统运行的不同阶段保有介入的能力，而不是被完全排除在外^[1]。

第二项是技术稳健性与安全性，更接近工程实践：系统应当具备韧性、安全性、准确性、可靠性和可复现性，并且在出问题时有一套后备方案^[1]。

其余几项要求分别是隐私与数据治理、透明性、多样性、非歧视与公平，以及社会与环境福祉^[1]。第七项是问责（accountability）。在这一项上，算法、数据和设计过程的可审计性起关键作用，同时还需要有可及的救济渠道，让人在受到损害后能够寻求补救^[1]。

从要求到评估清单

把要求写下来相对容易，难的是给开发者一件真正可以逐项核对的东西。一份把这些要求操作化的评估清单从 2019 年 6 月 26 日起进入试点流程，所有利益相关方都被邀请参与测试^[1]。试点阶段于 2019 年 12 月 1 日结束，专家组依据反馈，在 2020 年 7 月提交了最终版《可信人工智能评估清单》（Assessment List for Trustworthy AI）^[1]。

意义

这份准则更像是一套共同语言，而不是一本判例手册。三重条件让人可以准确指出一个系统究竟差在哪里，比如它合法但在伦理上可疑，或者伦理上讲得通却不够稳健、不能依赖。七项要求则把「信任」分摊到几种很不一样的工作上：为韧性和准确性做工程，为隐私做数据治理，为透明和审计搭建组织流程，还要考虑系统对周边的人与环境造成的影响。后来的评估清单给这些条目配上了可操作的形式，使「可信」变成团队可以逐条过一遍的东西，而不是新闻稿里的一句表态。这个目标并不宏大，但它恰恰是最容易被跳过的一环：如果没有谁能核查背后的步骤，那么宣称一个人工智能系统可信，本身并没有多少分量。