引导技术向善，“深度合成”不能成“深度伪造”

扫码订阅《中国信息安全》杂志

邮发代号 2-786

征订热线：010-82341063

近日，国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》，自2023年1月10日起施行。

随着互联网技术的快速发展，网络上出现了很多技术合成的内容，如AI绘画作品、换脸视频、变声音频等。从积极角度看，这类技术让生活更有趣，让制作或创作更加高效、逼真。但有些时候，深度合成也充当了诈骗、侵权、违法等违法犯罪活动的“帮凶”，亟待规范。

技术并无原罪，深度合成技术亦不例外，当其用于正道就会造福人类，假如用于歪道则会造成不良影响。究竟如何使用，既取决于深度合成服务提供者、使用者的素质和自觉，更取决于制度层面的规范。上述规定正是规范深度合成的“利器”。

实际上，深度合成服务带来的最大问题是真假难辨、深度伪造。拿影视作品制作来说，很多时候追求的就是真假难辨的效果。但网络上出现的深度合成的很多内容真假难辨，则很难说是出于善意的目的，而是某些人有意深度伪造来达到不可告人的目的，如实施诈骗。

去年以来，多地曾发生“变脸”诈骗案，例如合肥警方打掉的一个犯罪团伙，就利用电脑将一张张静态照片制作为人脸动态视频，能完成点头、摇头、眨眼、张嘴、皱眉等表情动作。而山东警方公布的案例显示，骗子伪造音频模仿某公司老板口音来实施诈骗。

为防范深度合成技术成为诈骗工具，上述规定从多方面进行了规范，比如明确“红线”，强调不得利用深度合成服务从事法律、行政法规禁止的活动；依法对深度合成服务使用者进行真实身份信息认证。这无疑增加了相关规定的震慑力，也畅通了追责渠道。

尤其值得关注的是，规定明确了标识要求，不仅要求深度合成服务提供者应当采取技术措施添加不影响用户使用的标识，还要求任何组织和个人不得采用技术手段删除、篡改、隐匿相关标识。当深度合成的信息内容都有显著标识，真假难辨的情况将不复存在，更好保障了公众的知情权，防止被误导、被伤害。规定还明确了监督检查与法律责任，当有关部门针对深度合成服务加强监管和执法，将倒逼这一技术的应用更趋规范。

进而言之，规定要在现实中更好地发挥效力，既需要深度合成服务提供者、深度合成服务技术支持者严格依法履行责任，不当“帮凶”，也需要各级公安和司法机关依据法律法规，全方位压缩不法分子利用深度合成技术违法犯罪的空间。

目前，我国对深度合成已形成较健全的“法律+行政规章”的制度体系，执法部门也频频对相关违法犯罪活动展开打击。同时也要看到，在巨大利益诱惑下，相关违法犯罪现象依然不少，依法治理仍是一场持久战。在这一过程中，公众的监督、维权也是不可忽视的重要力量。期待各方共同努力、引导技术向好向善，为深度合成服务的健康发展护航。

（来源：工人日报）

《中国信息安全》杂志 倾情推出

“企业成长计划”

点击下图 了解详情