Google 在翻译生产中上线 GNMT 中译英

背景

机器翻译长期被拆成若干独立环节：先把句子切成分词或短语，再为每一块挑选候选译文，然后决定如何重新排序，拼成目标语言的句子。每个环节单独设计和调优，前一步的错误往往会一路传到最终输出。

神经机器翻译的思路是把这条链换成一个网络，用成对的句子端到端训练，让「从源句到译句」这件事作为一个整体被学出来，而不是靠人工把各个零件拼起来。

发布了什么

2016 年 9 月 27 日，Google Research 发布了一篇题为「A Neural Network for Machine Translation, at Production Scale」的文章，公布了 Google 神经机器翻译系统（Google Neural Machine Translation，GNMT），以及一份题为「Google's Neural Machine Translation System: Bridging the Gap between Human and Machine Translation」的技术报告。^[1]

同一篇文章还宣布，该系统已经在「中文到英文」这一个语言对上进入生产环境。^[1] 当时 Google 翻译的手机端和网页端，中译英的机器翻译已 100% 由 GNMT 完成，每天大约 1800 万次翻译。^[1]

系统怎么工作

GNMT 是一个循环神经网络（recurrent neural network，RNN）的序列到序列（sequence-to-sequence）模型，由三部分组成：编码器（encoder）、解码器（decoder），以及对编码后向量的注意力机制（attention）。^[1]

编码器读入源语言句子，把它变成一串向量，每个位置一个，而不是压成对整个句子的一句固定概括；解码器再从这串向量出发，逐词生成目标语言的句子。

注意力机制是让第二步变得可行的关键：解码器每生成一个词，都可以回头查看编码后源句中与这个词最相关的部分，不必把整句话都塞进一个内部状态里。由于整个系统是一个网络，它把成对的句子当作一个整体来训练。

靠什么跑起来

把这样的模型放进面向大众的产品里，不只是建模问题，也是算力问题：系统必须在交互可接受的速度内响应，而且要扛住一个公开翻译服务的请求量。Google 表示，这次生产部署之所以可行，靠的是 TensorFlow 及其张量处理单元（Tensor Processing Unit，TPU），它们在满足 Google 翻译延迟要求的同时提供了足够的算力。^[1]

报告的效果

Google 称，与被替换的系统相比，GNMT 在若干主要语言对上把翻译错误率降低了 55%–85% 以上。^[1] 这些数字是在从维基百科和新闻网站抽取的句子上测得的，由双语人工评分员打分。^[1]

对 Google 翻译意味着什么

当时中译英只是 Google 翻译所支持的 1 万多个语言对之一，Google 表示会在接下来的几个月里把 GNMT 推广到更多语言对。^[1] 这一点很关键：这条消息不只是一项研究成果，它同时说明神经翻译模型能够承担一个大型公共服务的流量，并同时满足算力、延迟和质量上的约束。