评论 | 深度合成技术要严守法律底线 - 新鲜讯息

扫码订阅《中国信息安全》

邮发代号 2-786

征订热线：010-82341063

随着现代人工智能技术的发展，尤其是深度学习的爆发式发展，深度合成技术迅速兴起。所谓深度合成技术，是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。有了这个技术，“眼见”不一定“为实”，“有图”不一定“有真相”。深度合成技术是一把“双刃剑”。一方面，深度合成技术对社会具有正面影响，可以被运用于电影、游戏、广告与教育中，让受众的体验更丰富，让教学更具互动性和趣味性。另一方面，由于其“以假乱真”的特征，深度合成技术不可避免地会带来安全风险，可能侵犯公民权利、危害公共安全。

目前，各国已经意识到了深度合成技术对社会可能带来的潜在危害，对技术进行适当的法律规制已经成为各个国家的共识。在我国，中共中央印发的《法治社会建设实施纲要（2020－2025年）》明确提出，要“制定完善对网络直播、自媒体、知识社区问答等新媒体业态和算法推荐、深度伪造等新技术应用的规范管理办法”。2020年，《网络信息内容生态治理规定》要求网络信息内容服务使用者和网络信息内容生产者、网络信息内容服务平台不得利用深度学习、虚拟现实等新技术新应用从事法律、行政法规禁止的活动。2021年开始实施的民法典人格权编中规定，不论是否出于营利目的，均不得利用信息技术手段伪造他人肖像、声音。2022年，《互联网信息服务算法推荐管理规定》明确要求不得生成合成虚假新闻信息。今年1月10日，我国针对深度合成服务治理的专门性部门规章——《互联网信息服务深度合成管理规定》（以下简称《规定》）正式施行，为互联网信息服务深度合成的规范发展提供了基本遵循和法律依据。但是该《规定》的法律位阶较低，规范力度及规范范围有限，作为行业监管和司法判决的依据力度尚存不足。因此，有必要在顺应深度合成技术快速发展态势、梳理不断涌现的新问题的基础上，将现有的规范进一步整合升级，不断扎牢规制深度合成技术的法制笼子。在这个过程中，应特别重视以下问题。

充分认识深度合成可能带来的破坏性影响。深度合成背后的支撑技术是深度学习。用于深度学习算法的真实数据或模拟数据越多，合成的深度、合成产品的逼真程度就越高。深度合成产品基本上是由算法自动生成，制作成本和门槛较低，但是其可能带来的破坏性很大。一方面，深度合成技术提供了新型侵权手段，可能损害公民的合法权益。深度合成技术和相关APP极大降低了伪造音视频和文本的成本，可能成为不法分子实施网络犯罪的新工具。如行为人以非法占有为目的，通过深度合成技术制作的虚假音视频冒充被害人的亲友同事等实施诈骗或者勒索，普通公民很难辨别音视频的真实性，极易上当受骗，造成财产损失。另一方面，深度合成技术制造的虚假信息可能威胁社会安定。例如，在互联网平台借助深度合成技术捏造虚假新闻、炮制谣言等行为，将大大增加网络内容监管的复杂性，也可能带来社会信任危机与安全风险。

不同类型的深度合成适用不同的规制手段。《规定》作为我国第一部规制深度合成的专门立法，其中第23条对深度合成技术进行了定义，对使用该技术的情况作了列举，但规制手段仍然比较单一。事实上，文本伪造与视频、声音伪造存在明显不同，应该区别对待：首先，深度合成视频、声音需要大量的训练数据以及专业人员和高成本设备，而文本伪造的生成成本较低，而且视频与声音内容可以根据网络痕迹、生物活性检测和视频图片帧内特征等鉴别真假，但文本内容相对而言更不易被检测或识破。其次，在侵犯个人隐私与知识产权方面，根据视频与声音内容可以具体确定被害人，而文本伪造可以“含沙射影”，因此难以确定具体的被害人；对视频与声音内容，通过比对可以较容易地发现侵犯知识产权的内容，而文本伪造更难检测。最后，就影响力而言，文本在网络内容上的占比以及网民阅读内容中的占比明显高于视频与声音。因此，有必要根据深度合成类型的不同，规定不同程度的规制方法，注重民法、刑法、行政法等的协调综合运用。

科学界定滥用深度合成的责任主体。深度合成内容从制作、发布到传播，不是涉及单向度的责任，而是涉及多维度的责任，究竟由哪一方来承担法律责任？是制作者、深度合成服务的提供者，还是传播伪造内容的网络平台？有的服务提供者在其使用条款中明确指出输出内容的全部权益归属于用户，要求用户承担全部法律责任，这种责任分配是否合理有效？这都是亟待立法回应的问题。根据《网络音视频信息服务管理规定》，网络音视频信息服务提供者基于新技术新应用上线具有媒体属性或者社会动员功能的音视频信息服务，或者调整增设相关功能的，应当按照国家有关规定开展安全评估；网络音视频信息服务提供者应当加强对网络音视频信息服务使用者发布的音视频信息的管理，部署应用违法违规音视频以及非真实音视频鉴别技术；网络音视频信息服务提供者针对深度学习、虚拟现实等的虚假图像、音视频应建立健全辟谣机制等。这样的规定强调了传播平台的法律责任。平台既是新技术、新应用的创造者、受益者，也应该是控制技术风险、引导技术向善的责任承担者。同时我们也要看到，深度合成从制作、发布到传播，是一个链条化的过程，在此链条上的每一方均有可能承担法律责任，但是认定与承担责任的方式应根据其本身属性与行业特征有所区别。对平台而言，既要强调其安全保障、风险防范义务，也要兼顾对新兴科技健康发展的引导，对其法律责任范围界定应当慎重把握范围，不仅着眼于深度合成技术的合法合理合规使用，也应致力于管理好、使用好、发展好深度合成技术及相关服务。

（来源：学习时报）

《中国安全信息》杂志倾力推荐

“企业成长计划”

点击下图了解详情