大规模 GAN 训练与高保真自然图像合成（BigGAN）

要解决的问题

生成对抗网络（generative adversarial network, GAN）靠对抗来训练：生成器（generator）把随机输入向量变成图像，判别器（discriminator）负责分辨这些图像与真实图像，生成器则在试图骗过判别器的过程中变强。这篇论文的出发点是：从 ImageNet 这类复杂数据集中生成高分辨率且足够多样的样本，一直是一个难以达成的目标^[1]。论文处理的是类别条件（class-conditional）的设定，也就是按指定类别生成图像，模型必须同时覆盖许多类别，而不能退化成只擅长其中少数几类。

做法：把规模推上去

作者的做法是加大规模：他们在当时所能尝试的最大规模上训练生成对抗网络，并把这一规模下特有的不稳定现象本身当作研究对象，而不是当成顺手调掉的意外^[1]。更大的模型、更多的参数和更宽的网络层给生成器带来更强的表达能力，同时也让对抗训练更难保持平衡——两个网络可能互相漂移、来回震荡，或者一方彻底塌掉。把这些失败模式讲清楚，是后面那些技巧能够成立的前提，因为一套只在小规模下奏效的训练配方，无法简单放大。

正交正则化与截断技巧

论文报告的关键发现是：对生成器施加正交正则化（orthogonal regularisation），可以让它适用一个简单的截断技巧（truncation trick）^[1]。正交正则化是一种约束，它推动权重矩阵的各行或各列彼此尽量正交，使网络不必依赖冗余的方向来表达，每个单元因此承担信号中相对独立的一部分。

截断技巧作用在输入端：不再从完整分布中采样生成器的输入向量，而是从一个被截断的分布中采样，或者等价地把样本向均值收拢，这样就降低了生成器实际收到的输入的方差。有了正则化打底，生成器能够承受这种收窄。于是，通过降低生成器输入的方差，这个技巧让人可以细致地控制样本保真度（fidelity）与多样性之间的取舍^[1]。截断得越紧，图像越干净、越接近典型样本；放得越松，图像越多样，但也越粗糙。要点在于，这种取舍变成了使用者在生成时可以拨动的旋钮，而不是预先焊死在训练好的模型里的属性。

结果

由此得到的模型被称为 BigGAN，在类别条件图像合成（class-conditional image synthesis）上刷新了当时的最好成绩^[1]。

为什么重要

这篇论文的贡献有三层，而三层都不是一个孤立的数字。其一，它给出了证据：在对抗训练中，规模本身就是提升图像质量的一个杠杆。其二，它把随规模而来的不稳定现象命名并加以研究，而不是把问题藏起来，这让大规模 GAN 训练成为一件可以分析和讨论的事。其三，它把保真度与多样性之间的取舍做成了一个几乎不花代价就能使用的旋钮。给模型起名 BigGAN、并在类别条件合成上刷新当时的最好成绩，标记了这项工作抵达的位置；而真正留得下来的，是它展示出的工作方式：把模型做大，观察哪里会坏，然后交给使用者一个可以转动的控制开关^[1]。