主要内容概览
3月14日国家网信办、工信部、公安部、国家广播电视总局四部门联合发布《人工智能生成合成内容标识管理办法》(以下简称《办法》)。《办法》共14条,自2025年9月1日起施行。《办法》明确了生成合成内容的定义,规定了显式和隐式两种标识方式。要求服务提供者按场景添加显式标识,在文件元数据中添加隐式标识,传播平台要核验标识并提醒公众,应用程序分发平台要核验相关材料,用户发布生成合成内容时需主动声明并标识,同时禁止恶意删除等破坏标识的行为,以规范标识活动,促进人工智能健康发展。
文件链接:
https://www.cac.gov.cn/2025-03/14/c_1743654684782215.htm
网安罗盘简评
《办法》是继《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》等法规之后,人工智能监管领域又一项重磅法规。其出台无疑将进一步强化人工智能生成合成内容管理的规范化、促进此类作品“实名制”的落地。
2022.1.4
《互联网信息服务算法推荐管理规定》
2022.11.3
《互联网信息服务深度合成管理规定》
2023.7.10
《生成式人工智能服务管理暂行办法》
2025.3.14
《人工智能生成合成内容标识管理办法》
●
从内容看,《办法》主要明确了两个主要问题
一是明确了标识的分类。《办法》首次明确标识包括显式、隐式两类。二者的主要区别之一在于能否“被用户明显感知到”;还有一个重要区别在于标识的添加位置和形式的不同:根据《人工智能生成合成内容标识方法》(GB45438-2025),显式标识一般是直接在生成内容或交互场景界面上添加文字、声音或图形标识,而隐式标识则需要在生成内容的元数据中添加特定要素或对内容添加数字水印。
二是明确了管理对象应承担的主要义务。《办法》主要规定了生成合成内容提供者、传播者、分发平台和用户四类主体的主要义务。对于生成合成内容提供者,主要应承担添加标识、服务协议说明和提示、提供无显式标识内容特殊要求、备案评估衔接等4项义务;对于生成合成内容传播者,主要应承担核验隐式标识、添加提示标识、提供标识功能等3项义务;对于分发平台,主要需承担上线提示、核验等2项义务;对于用户,主要应承担传播生成合成内容时的声明和标识义务。
●
思考和产业影响
一是关于数字水印的分类问题。按照对《办法》第五条的字面理解,数字水印被划归为隐式标识之一。而在实践中,数字水印还常常以显式的方式存在于多种形式的内容成果中,其在表现形式上也具有某些显式标识的特征。是否需要将数字水印这种特定的标识进行进一步的细分,期待相关法规标准后续做出统筹安排。
二是对于“删除、隐匿”标识等情形的认定问题。用户对于生成合成内容成果的使用,很多情况下并非整体使用,更多或表现为对生成合成内容进行节选或筛选使用,在此类情况下,如何规范对标识的使用,或需进一步明确。
三是产业影响。《办法》及相关标准的发布,无疑将会对数据技术和数据安全行业带来一定市场机会。一方面,从技术保障来看,无论是显式标识或是隐式标识,都需要数据标识相关技术和产品的支撑,重点行业涉及标注咨询与培训、标注审查与核验、标注质量评估等;另一方面,从安全保障来看,生成合成内容的标识涉及到个人信息保护、日常合规监管等多种安全需求,重点行业包括数据隐私保护、安全能力评估、安全风险识别、监测和响应等。
相关政策链接
推荐站内搜索:最好用的开发软件、免费开源系统、渗透测试工具云盘下载、最新渗透测试资料、最新黑客工具下载……
还没有评论,来说两句吧...