Going Deeper with Convolutions

在同样的计算量下加深网络

卷积神经网络（convolutional neural network, CNN）用一层层可学习的滤波器识别图像：浅层响应边缘、色块这类简单模式，深层把浅层的响应组合成部件，再组合成物体。要让这样的网络更准，最直接的办法是把它做大——层数更多、每层滤波器更多。代价是两者都要消耗计算，而且消耗增长得很快。

《Going Deeper with Convolutions》于 2014 年 9 月 17 日首次提交到 arXiv，正面处理的就是这个取舍^[1]。作者希望在计算预算不变的前提下，同时提高网络的深度和宽度^[1]。论文还把据此搭出的系统送进了 2014 年 ImageNet 大规模视觉识别挑战赛（ImageNet Large-Scale Visual Recognition Challenge, ILSVRC）——一个公开的图像分类与目标检测评测，参赛系统按成绩排名；这个参赛系统在分类和检测两项上都刷新了当时的最好成绩^[1]。

Inception 与 GoogLeNet

论文提出的架构代号为 Inception。它自述的特点不是某个特定的层，而是网络内部计算资源的利用效率更高：把算力花在收益最大的地方，从而在固定预算下做到更深、更宽^[1]。

论文称其架构决策依据的是赫布原理（Hebbian principle）和多尺度处理的直觉^[1]。赫布原理来自神经科学，大致是说经常同时活跃的单元之间连接会增强；在论文里它扮演的是设计上的指导思路，而不是训练规则。多尺度处理针对的是照片的一个基本性质：同一类物体在画面里可能占满整幅，也可能只有几十个像素，只盯着一个尺度的系统在别的尺度上就会吃亏。

投给 2014 年挑战赛的具体网络叫 GoogLeNet，深 22 层^[1]。两个名字指的不是一回事：Inception 是架构，GoogLeNet 是用它搭出来参赛的那个网络。

结果

按论文的 CVPR 版本，最终提交在验证集和测试集上的 top-5 错误率都是 6.67%，在参赛者中排名第一^[2]。top-5 错误率指正确答案不在系统给出的前五个猜测之列的图像比例，越低越好。

论文把这个数字和此前几届的成绩并列在一张结果表里^[2]。2012 年的 SuperVision 列的是 16.4% 和 15.3%，上一年最好的 Clarifai 是 11.7% 和 11.2%^[2]。2014 年这一届，MSRA 以 7.35% 排在第三，VGG 以 7.32% 排在第二，GoogLeNet 以 6.67% 排在第一^[2]。作者称 6.67% 相对 2012 年的 SuperVision 方法下降了 56.5%，相对 Clarifai 下降约 40%^[2]。

为什么重要

这张表里有两点值得注意。一是速度：在同一组对比中，最好的 top-5 错误率从 16.4% 降到 6.67%，作者自己把这一变化描述为两年间幅度很大的相对下降^[2]。二是 2014 年的竞争已经挤得很紧：GoogLeNet 领先第二名不到一个百分点，而第二名和第三名之间只差零点零几个百分点^[2]。成绩压缩到这个程度，再往前就很难靠单纯把网络堆大来取得。

论文的着力点正在这里。它交出的不只是一个夺冠的网络，还有一种提问题的方式：与其问网络能造多大，不如问一个网络固定的计算开销应该怎样分配到内部各处，让深度和宽度都长起来，而预算不必跟着长^[1]。论文还给这个领域留下了两个容易混淆、但并不相同的名字——架构叫 Inception，参赛的那个 22 层网络叫 GoogLeNet^[1]。

今天回看，这篇论文记录的是一个转折点：准确率的提升不再主要来自规模本身，而更多来自网络的「内部经济学」——哪些部分值得多给算力，哪些部分可以用便宜的代价算出来而不丢掉模型需要看见的东西。架构背后的多尺度直觉——物体以各种大小出现，网络就应该按这个前提去设计——论文讲得很直白，不需要结果表来支撑^[1]。