欧盟委员会发布《人工智能白皮书》

背景

2020年2月，欧盟委员会发布了一份题为《人工智能白皮书——欧洲的卓越与信任之路》的政策文件，编号 COM(2020) 65 final，落款为布鲁塞尔，2020年2月19日。^[1] 白皮书不是法律，而是一种征求意见的文件：它陈述问题、给出倾向性的方向和理由，在正式起草立法提案之前先收集各方反应。这一份讨论的对象是人工智能，核心问题是：怎样鼓励这项技术的使用，同时又不把它带来的风险放在一边。

双重目标

文件开篇提出「双重目标」：促进人工智能的应用，同时应对其特定用途带来的风险。^[1] 措辞值得注意。两个目标被摆在同一件事里，而不是被描述成创新与保护之间需要权衡的两端；后一个目标还被限定在「特定用途」上——白皮书并不打算监管人工智能本身，而是监管它的某些具体应用。

这一限定决定了后面所有的制度设计。委员会认为，新的 AI 监管框架应当有效实现其目标，同时不能规定得过于细碎，以免造成不成比例的负担，对中小企业尤其如此。^[1] 为取得这种平衡，委员会表示应当采取基于风险的方法（risk-based approach），并称这种方法有助于确保监管干预是适度的。^[1] 换成直白的说法：义务的轻重应当随风险高低而变化，一个几乎造不成什么损害的应用，不该背上和高风险应用一样的合规成本。

高风险怎么划

对于要接受最严格对待的那一类应用，白皮书给了一个具体的判断标准。它提出两条必须同时满足的标准来认定高风险人工智能应用：该应用所处的行业可以预期会出现重大风险；并且它的使用方式使之很可能产生重大风险。^[1] 两条是累加的。仅仅身处敏感行业，不足以被认定为高风险；把一个本身无害的系统用在特殊场合，也不会自动让它进入高风险之列。这种累加结构把高风险的范围限制住了，而这正是「适度监管」想要的效果。

两个生态

政策框架被概括为两大支柱。第一个是「卓越生态」（ecosystem of excellence）：沿着从研究到创新的整条价值链调动资源，其中包括面向中小企业的激励措施。^[1] 这是支持的一面——资金、研究能力和针对小企业的安排，目的是让欧洲的机构有能力开发和采用这项技术。

第二个是「信任生态」（ecosystem of trust）：一套监管框架，确保遵守欧盟的各项规则，包括保护基本权利和消费者权利的规则，对象尤其是在欧盟范围内运行的高风险人工智能系统。^[1] 白皮书明确说，建设信任生态本身就是一项政策目标：它让公民有信心使用人工智能应用，也让企业有法律上的确定性去创新。^[1] 这里的论证值得留意：信任不是采用的刹车，而是采用的前提。使用者不知道一个系统会做什么、出了问题该由谁负责，就会观望；企业看不清规则是什么，就无法做规划。

以人为本与范围

委员会表示，它坚决支持以人为本的方法，其依据是《在以人为本的人工智能中建立信任》通函，并将考虑人工智能高级别专家组（High-Level Expert Group on AI）所编写的伦理准则在试点阶段收到的意见。^[1] 这把白皮书接续到已经在进行的伦理工作上，而不是把监管和伦理当成两条互不相干的线。

文件也划定了自己的边界。它明确表示不涉及军事用途的人工智能的开发和使用。^[1] 防务与安全领域的应用不在这次讨论的范围之内，文件处理的是民用应用。

意义

把这份文件当作一份设计稿来读，有意思的地方在于它用了很少几个部件就把两个目标拢在一起：一个由两条累加标准构成的高风险定义，一条排除细碎规定的适度监管承诺，以及把政策世界分成支持措施与合规要求两半的做法。每一项本来都可以有别的选法——高风险可以按技术类型而不是按行业与使用方式来界定；义务可以一刀切；信任议题也可以只交给伦理指南。作为征求意见的文件而非立法，它的重要性在于提出的框架和它向各方提出的问题，而不在于有约束力的规则。