深度伪造

一个名字

「深度伪造」（deepfake）是「深度学习」（deep learning）与「假」（fake）拼成的组合词。按维基百科的记载，这个词出现在 2017 年末，源自一位化名「deepfakes」的 Reddit 用户。 ^[1] 它所指的范围比最初宽得多：用人工智能、基于人工智能的工具或音视频编辑软件修改或生成的图像、视频和音频，通常被归入「合成媒体」（synthetic media）一类。 ^[1][2]

换脸是怎么做到的

多数换脸深度伪造依赖生成对抗网络（generative adversarial network，GAN），它由两个相互对抗训练的神经网络组成。一个叫生成器，负责造出画面；另一个叫判别器，负责分辨画面是造出来的还是真实的。每一轮训练都逼着生成器产出判别器认不出的结果，两者一起变强。放到换脸任务里，生成器要学会把选定人物的脸，按目标视频里的姿态、光线和表情重新画出来，判别器则惩罚那些一眼看去就不像真人的结果。Korshunov 与 Marcel 在评估深度伪造对人脸识别的威胁时，把换脸描述为用预训练的生成对抗网络完成的过程。 ^[2]

技术上的转折点出现在 2010 年代中期，生成对抗网络让逼真的合成画面变得可行，维基百科把这一发展视为深度伪造演变中的关键一步。 ^[1][2]

更早的尝试

这项技术并非凭空出现。维基百科把它的技术源流追到 1990 年代开始的学术工作，其中包括 1997 年由 Christoph Bregler 主导的 Video Rewrite 系统。 ^[1] 两个更近的先行程序常被提到：2016 年发表的 Face2Face，以及 2017 年的 Synthesizing Obama。 ^[1]

2017 年末真正改变的是门槛。方法被包装成非专业者也能运行的形式之后，产物开始在网络社区扩散。早期作品包括把名人面孔换到色情视频演员身体上的视频，以及大量把 Nicolas Cage 的脸换进电影片段的短片。 ^[1][2] 这类未经同意的性内容引人注目，Korshunov 与 Marcel 正是把近年名人面孔被换到色情视频上的丑闻，列为需要自动化检测的理由。 ^[2]

从单一软件到开源工具

2018 年 1 月，名为 FakeApp 的专有桌面应用发布，把换脸交到普通用户手里。 ^[1] 到 2019 年，它已基本被 Faceswap、DeepFaceLab、DeepfakesWeb 等开源替代品取代。 ^[1] 研究工具也在同时流传：Korshunov 与 Marcel 在同一篇 2018 年的论文里，公开了第一套可公开获取的 Deepfake 视频，用开源的生成对抗网络软件基于 VidTIMIT 数据库生成，让检测方法可以在真实样本上受测。 ^[2]

为什么重要

深度伪造的重要性有两个方向相反的面。一面是伤害：同样的方法可以把一个人的脸放进他从未出现过的影像里，早期的色情换脸已经说明了这对被伪造者意味着什么。 ^[1][2] 另一面是检测。深度伪造靠肉眼与普通影像对比来判断，研究者因此把它当作一个不断移动的目标：生成每前进一步，检测就有新的痕迹可学；检测每前进一步，生成又多了一道要过的关。 ^[2]

这个词本身也随技术一起伸展。它最初只是一个发帖者的网名和对换脸视频的描述，今天已成为各类人工智能编辑图像、视频和音频的日常称呼。 ^[1][2]