自编码变分贝叶斯

要解决的问题

2013 年 12 月 20 日，Diederik P. Kingma 和 Max Welling 把论文《Auto-Encoding Variational Bayes》（自编码变分贝叶斯）发布到 arXiv。论文处理的是定向概率模型（directed probabilistic model）中的高效推断与学习问题，这类模型同时具备三个特征：连续隐变量、难以计算的后验分布、以及大规模数据集^[1]。

定向概率模型用一组隐藏的量——隐变量（latent variable）——以及连接它们与观测数据的条件依赖关系来描述数据。要学习这样的模型，就需要后验分布，也就是给定数据之后隐变量的分布。对于连续的隐变量，这个后验通常没有闭式解，定义它的积分无法精确求出。经典做法有两种：要么把模型限制在能让后验保持可计算的范围内，要么对每个数据点单独跑一遍采样流程；当数据集很大时，后一种做法的代价高到无法承受。论文所设定的场景——连续隐变量、难以计算的后验、大规模数据——恰恰是这两种做法都失效的地方^[1]。

做法

作者的关键动作有两个。第一个是对变分下界（variational lower bound）做重参数化。变分方法用一个更简单的近似分布代替真实后验，并通过最大化数据似然的一个下界，把这个近似尽量推向后验。困难在于，下界里含有对近似分布采样的期望，而采样这一步夹在计算中间，会阻断梯度的传递。重参数化把从近似后验中抽取的样本改写成「分布参数与一个独立噪声变量的确定性、可微变换」。这样一来，采样就和其他可微运算一样，梯度可以穿过采样步骤，回传到产生该样本的参数上^[1]。

经过这一改写，作者得到了一个可以直接用标准随机梯度方法优化的下界估计量——也就是训练神经网络时用的那套工具——条件只是若干温和的可微性要求，并且他们证明，即使在后验难以计算的情形下该估计量依然可用^[1]。第二个动作针对推断本身。对于每个数据点都带连续隐变量的独立同分布（i.i.d.）数据集，作者证明：把一个近似推断模型（他们称之为识别模型，recognition model）拟合到难以计算的后验上，就能让后验推断变得高效。也就是说，不必对每个数据点重新解一次优化问题，而是训练一个模型，把观测映射到其近似后验的参数上^[1]。

论文给出的结果

论文报告的结果不是基准分数，而是关于估计量和推断方案的性质。重参数化之后的下界给出一个估计量，可以直接用标准随机梯度方法优化，并且能够扩展到大规模数据集^[1]。推断方面，对于带连续隐变量的独立同分布数据，后验推断可以通过识别模型变得高效^[1]。这两点合起来覆盖了整个回路：生成模型和近似推断模型可以在同一个目标函数上、用梯度下降一起训练。

为什么重要

这篇论文的意义在于它把原本分开的两个世界接了起来。近似贝叶斯推断有自己的算法和计算习惯，神经网络训练则有随机梯度下降。论文把变分目标写成一种只要求可微、只要求能采样的形式，从而把推断变成了普通意义上的优化问题：可以按小批量随机数据来跑，也可以随数据规模一起放大^[1]。识别模型处理的是每个数据点带来的成本问题：把推断在数据集上摊薄（amortize），正是让方法在观测很多而不止一个时仍然可用的原因^[1]。论文自己主张的贡献，就是「下界估计量 + 学习得到的、对难以计算后验的近似」这一框架；也正是这个框架，让带连续隐变量的潜变量模型能够在大规模数据上训练。