文 | 中国政法大学副校长 时建中

《互联网信息服务深度合成管理规定》（下文简称为《规定》）于2022年11月25日发布，标志着深度合成服务成为了我国算法治理中率先专门立法的算法服务类型。中共中央印发的《法治社会建设实施纲要（2020—2025年）》中提出完善网络信息服务方面的法律法规，制定完善算法推荐、深度伪造等新技术应用的规范管理办法。这一规章的出台将纲要提出的重要任务落地，凸显了深度合成技术在我国算法安全治理中的重要地位。

一、规范深度合成服务的重要意义

深度合成服务是生成合成类算法的应用服务，属于我国《互联网信息服务算法推荐管理规定》中规定的生成合成类、排序精选类、检索过滤类、个性化推送类、调度决策类算法推荐服务中的一种。深度合成技术应用领域十分广泛，可以被用来生成和编辑文本、生成音乐、合成人声，如代替人创作诗歌和撰写词曲，自动生成伴奏音乐与合成歌声等。深度合成技术也可以被用来进行人脸生成、人脸替换、人脸操控，可被用来制作电影特效，或者生成以假乱真的人物视频。深度合成技术还可被用来进行图像生成、图像增强等，如2021年被广泛关注的FacePlay应用，只需要用户上传一张人脸照片，就可以生成不同服装场景的图片和视频。深度合成技术也极大地丰富了虚拟数字空间的信息内容，为更加多样化的传播行为提供了可能性。2021年10月，脸书宣布更名为“Meta”即元宇宙，即是利用深度合成技术创建虚拟世界，用户可以通过现实头戴设备与其他用户实现互动。

随着深度合成技术的开源开放、深度合成产品和服务的逐渐增多，深度合成内容制作的技术门槛越来越低，深度合成服务已经实现了公众化、平民化，普通人仅需要少量的图像、音频、视频、文本等样本数据，利用简便易用的深度合成工具，就能够模糊真实信息和虚假信息的边界。深度合成技术诞生之初，由于技术的不成熟，尚存在合成的视频中人物微表情不自然、图像边缘有锯齿等明显痕迹。但近年来在网络传播的深度合成视频内容，人物动作的逼真度、自然度，以及视频整体的清晰度、流畅度都可以达到以假乱真的水平，用户已经难以鉴别。

深度合成技术一旦被滥用，会造成巨大风险与实质性危害，可能给个人、企业造成肖像、名誉等人格和财产权益损害，也可能给社会秩序、国家政治稳定和安全造成巨大威胁。如将深度合成技术用于捏造国家政要言论、伪造公务人员虚假视频，可能给政治安全和国家安全带来重大危害。对个人与企业来说，深度合成技术的滥用也可能造成巨大权益损害。如企业高管被深度合成捏造视频篡改发言内容，可能造成市场恐慌，引发金融市场动荡。个人也可能被伪造虚假视频等，被用来向其亲友诈骗或者伪造不雅视频侵害其名誉权。

二、构建深度合成服务安全监管制度

《规定》共分为五章，分别从总则、一般规定、数据技术管理规范、监督检查与法律责任、附则等部分，构建了深度合成服务的安全监管制度。在中华人民共和国境内应用深度合成技术提供互联网信息服务的，适用本规定。

《规定》注重保障互联网信息内容安全，特别是新闻信息安全。规章对深度合成服务提供者提出了明确的要求。一是深度合成服务提供者要落实信息安全主体责任，加强深度合成内容管理，采取技术或者人工方式对深度合成服务使用者的输入数据和合成结果进行审核，一旦发现违法和不良信息，应当依法采取处置措施；二是针对深度合成信息内容的特殊性，深度合成服务提供者应当建立健全辟谣机制，并设置便捷的用户申诉和公众投诉、举报入口；三是深度合成服务提供者要履行对服务使用者的管理义务，包括进行真实身份认证，保证用户实名使用深度合成服务，以及提示服务使用者落实个人信息保护要求等。

三、规范深度合成服务保障网络空间清朗

针对深度合成服务带来的机遇与恶意使用带来的挑战，世界各国纷纷出台管理法律法规，探索对深度合成服务的依法治理。欧盟与美国均有相关立法考虑，同时加强打入数字水印、开发真伪鉴别等技术治理手段，要求互联网企业对平台内容进行自我审查，从源头打击网络虚假内容。

我国《规定》的重要特色，是基于深度合成服务技术性强的特点，从技术开发、模型训练、服务提供和使用等环节对深度合成服务提供者和技术支持者提出全面管理要求。一是要求添加深度合成隐式标识，确保信息内容的可追溯性。深度合成服务提供者对使用其服务生成编辑的信息内容，应当采取技术措施添加隐式标识，这既不影响用户的使用体验，也实现了深度合成信息内容的可追溯性。二是要求添加显著标识，确保信息内容传播的可感知性。对于可能会导致公众混淆或者误认的深度合成信息内容，深度合成服务提供者还应当添加显著标识，在合理位置、区域向公众进行提示，避免对公众产生误导，引起信息内容安全风险。三是明确法律责任，保证深度合成标识的可查验性。规章要求任何组织和个人不得采用技术手段删除、篡改、隐匿深度合成标识。这既要求深度合成标识在深度合成内容全生命周期存在，也要求深度合成服务提供者和技术支持者保证隐式标识和显著标识的鲁棒性，使得该标识不因压缩、传输等环节丢失，进一步通过技术手段压实主体责任。

深度合成技术展现了其强大的能量和可能性，加速应用已经成为现实趋势。但其带来效率和便利的同时，也带来了技术的伴生风险。深度合成服务从相继被纳入到《网络音视频信息服务管理规定》《网络信息内容生态治理规定》《互联网信息服务算法推荐管理规定》中监管，到出台专门的规章进行规制，显示出我国一方面引导深度合成技术良性发展，另一方面坚决打击利用深度合成服务制作传播违法不良信息、危害信息内容安全、社会公共利益和国家安全的行为。在合规前提下，深度合成技术创新发展，不断开拓应用场景，将形成对人工智能产业整体的带动效应，促进技术向上向善。