谷歌发布人工智能原则

背景

随着人工智能从实验室走进大量用户使用的产品，开发它的公司开始面对一个公开的问题：哪些事会做，哪些事不会做。谷歌的回答是一篇题为《AI at Google: our principles》的博客文章，于 2018 年 6 月 7 日发布，作者是首席执行官 Sundar Pichai^[1]。

文章写了什么

文章为人工智能应用列出了 7 项原则。谷歌表示，这些原则会切实指导公司的研究与产品开发，并影响商业决策，而不只是泛泛的价值宣示^[1]。7 项原则是：

• 对社会有益；
• 避免制造或强化不公平的偏见；
• 为安全性而构建和测试；
• 对人负责；
• 纳入隐私设计原则；
• 坚持高标准的科学卓越性；
• 只用于符合这些原则的用途^[1]。

其中一些原则附带了明确的判断标准。关于社会效益，谷歌称只有在整体可能收益显著超过可预见的风险与负面影响时才会推进^[1]。关于偏见，谷歌称会努力避免基于种族、族裔、性别、国籍、收入、性取向、能力以及政治或宗教信仰等敏感特征对人造成不公正的影响^[1]。

谷歌划出的禁区

文章中最受关注的部分，是它列出谷歌不会涉足的 4 类应用：造成或可能造成整体伤害的技术；主要目的是伤害人、或直接助长伤害人的武器及其他技术；收集或使用信息进行监控、违反国际公认规范的技术；以及目的违背国际法和人权方面广泛接受原则的技术^[1]。

文章同时为这份清单划了边界：谷歌明确表示，仍会在网络安全、培训、退伍军人医疗和搜救等领域与政府和军方合作^[1]。被排除的类别按目的和后果界定，而不是按客户身份界定。

为什么重要

这样一份公开清单同时起几种作用。它告诉员工和外部研究者该用什么标准要求公司，告诉客户和政府可以预期什么，也给公司提供了拒绝某些工作的书面依据。由于这些承诺被写成需要权衡的目标而非硬性规则，它们为判断留出了空间：例如社会效益那条要求比较可能收益与可预见风险，而不是直接点名禁止某类产品。

这份文件也并非一成不变。页面上带有后续的更新提示，记载原则于 2025 年 2 月 4 日经过修订^[1]，说明这套框架被当作随技术和用途变化而重新审视的对象。

它不是什么

这套原则是一家公司的意向声明，不是法规，也不是技术标准；文章把它们描述为对谷歌自身工作的指引^[1]。对于想了解人工智能公司如何自我约束的读者，这份文件是一份有用的第一手材料：它显示出一家主要开发者在 2018 年选择点名关注哪些问题——收益与风险的权衡、偏见、安全、问责、隐私、科学质量以及可接受用途的边界——也显示出它对每一条所选择的措辞。