《互联网信息服务深度合成管理规定》施行

背景

「深度合成」是这份规定对用生成算法制作内容的总称。规定把深度合成技术定义为利用深度学习、虚拟现实等生成类算法制作文本、图像、音频、视频和虚拟场景的技术^[2]。这涵盖的是一大类产出——机器写的文字、合成语音、生成的人脸、剪辑过的视频、计算机搭建的场景——而不是某一种产品。

规定于2022年11月3日审议通过，以第12号令公布，公布日期为2022年11月25日^[2]。它由国家互联网信息办公室、工业和信息化部、公安部三个部门联合发布^[1]，自2023年1月10日起施行^[1][2]。

规定了什么

核心义务是标识。服务提供者对其服务生成或编辑的信息，应当添加不影响使用的标识^[1]。「不影响使用」这几个字很关键：标识的作用是告知，不是让内容失效或变差，合成图像照样能看，合成语音照样能听、能转发。

第二层要求更严，针对特定服务类型。对提供智能对话、合成人声、人脸生成、沉浸式拟真场景等服务的，提供者应当添加显著标识，避免公众混淆或者误认^[1][3]。这几种形态恰恰是产出最接近「像某个人」的：听起来像某人的声音，看起来像某人的脸，读起来像真人在对话。所以规定要求的是不容易被忽略的标识，而不是藏在角落里、看不见的标记。

规定还保护标识本身。任何组织和个人不得采用技术手段删除、篡改、隐匿这些标识^[1]。少了这一条，标识义务很容易被绕开：谁能把标记去掉，谁就能把合成内容当成真实内容散布出去，而压在提供者身上的义务对受众也就起不到保护作用。

标识之外的义务

提供者还承担三项义务。一是核验使用者的真实身份^[1]，这使账号与具体的人对应起来，出了问题能够查明内容由谁制作和发布。二是建立辟谣机制以及申诉、举报机制^[1]，给用户和第三方一条对合成内容提出质疑并要求更正的通道。三是具有舆论属性或者社会动员能力的提供者和技术支持者，应当按照规定完成备案，并按规定更新或注销备案^[1]——这实际上是一份名单，登记的是产出能够触达并影响大量人群的服务。

影响

合起来看，这份规定把披露的责任移到了制作内容的一方。观众、听众或读者不必再从零判断一段视频、一段语音、一段文字是不是机器做出来的：提供服务的机构被要求讲清楚，而且在最容易引起混淆的地方要讲得显眼^[1][3]。身份核验和举报机制，则在内容传播之后补上了追溯和纠正的路径^[1]；备案则让监管方掌握一份影响公共讨论的服务清单^[1]。

这是一种规制思路，而不是禁止思路。规定并不封杀合成内容，而是给生成内容的服务附加条件——标识、真实身份核验、辟谣与举报机制、备案——让深度合成在被使用的同时保留可辨识的来源。由于义务写在提供者这一层，披露的工作落在运营服务的机构身上，而不是落在需要自己辨别真假的公众身上。