MNIST 手写数字数据库

要解决的问题

手写数字识别长期被用作文档识别和模式识别的试验场。一个较早的具体数据集是 1988 年构建的美国邮政系统（US Postal Service）数字数据集，包含 7,291 张训练图像和 2,007 张测试图像，曾被用来训练和评测 1989 年的 LeNet。^[1] 这类工作需要把用于拟合模型的数据和用于检验模型的数据明确分开。MNIST 要提供的，就是一套手写数字的公共参照集；它的标准论文是 Y. LeCun、L. Bottou、Y. Bengio 和 P. Haffner 的《Gradient-Based Learning Applied to Document Recognition》，发表在 Proceedings of the IEEE，86(11):2278-2324，1998 年 11 月。^[2]

怎么做的

MNIST 包含 60,000 张训练图像和 10,000 张测试图像，内容为手写数字。图像是黑白的，来自 NIST 数据，经过归一化以装入 28×28 像素的边界框，并做了抗锯齿（anti-aliasing）处理。^[1] 它不是完全重新收集的手写样本，而是把 NIST 原始数据集中的样本重新混合而成。NIST 原始数据集中，训练集取自美国人口普查局（American Census Bureau）的雇员，测试集取自美国高中生。^[1] 在 MNIST 中，训练集的一半和测试集的一半来自 NIST 的训练数据集，另一半则来自 NIST 的测试数据集。^[1] 因此，最终的 MNIST 训练集和测试集都混合了两个来源，而不是一个只含普查局雇员、另一个只含高中生。^[1]

结果

在创建者的原始论文中，支持向量机（support-vector machine）在 MNIST 上取得 0.8% 的错误率。^[1] 这个数字的意义在于，它是在固定测试集上报告的错误率，而不是在一批随意挑选的数字上报告的结果。数据集还有一个容易被忽略的细节：原始 MNIST 数据集中至少有 4 个错误标签。^[1] 少量标签噪声意味着模型的错误并不都来自同一个原因；有些可能来自模糊或标错的样本，因此接近完美的分数需要结合这一点来理解。作为对比，较早的 USPS 数据集有 7,291 张训练图像和 2,007 张测试图像，并被用来训练和评测 1989 年的 LeNet。^[1]

为什么重要

MNIST 的设计让比较变得直接：固定的 60,000/10,000 划分、统一的 28×28 输入格式，以及少量数字类别，使实验可以按同一方式描述——在训练集上训练，在测试集上测试，报告错误率。^[1] 创建者原始论文中 0.8% 的支持向量机错误率，给后来的工作提供了一个具体参照。^[1] 它还接在一条更长的文档识别研究脉络上：USPS 数字曾在 1989 年用于 LeNet，而标准的 MNIST 论文在 1998 年以《Gradient-Based Learning Applied to Document Recognition》为题发表。^[1][2]

局限与位置

MNIST 是基准，不是手写问题的完整模型。图像被归一化到 28×28 的边界框内，因此模型看到的数字在尺度和位置上的变化已经被压缩。^[1] 标签也不是完全干净，原始数据集中至少有 4 个已知错误标签。^[1] 这些局限并不让它失去作用，而是定义了分数的含义：MNIST 上的结果说明一种方法在数据库固定的预处理和划分下，区分数字类别的能力如何；原始论文中 0.8% 的支持向量机错误率就是这样一个比较点。^[1] 在这个位置上，MNIST 为文档识别以及从标注图像中学习的方法，提供了一个紧凑的共同基准。