引 言
我国《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》明确规定了人工智能（“AI”）生成合成内容标识的相关义务。2024年9月14日，国家网信办发布《人工智能生成合成内容标识办法（征求意见稿）》（“《标识办法》”）；同日，网络安全领域首个强制性国家标准《网络安全技术 人工智能生成合成内容标识方法（征求意见稿）》（“《标识国标》”）作为配套文件发布，旨在进一步落实和细化内容标识要求。AI生成合成内容标识在避免公众混淆或者误认，降低AI生成物被用于政治造假、诈骗和滥用方面风险有着重要作用。本文对比中外内部标识监管要求，介绍内容标识的主要制度及最新行业实践，为企业落地内容标识监管要求提供指引。
欧盟、美国人工智能立法均对AI系统生成物的标识进行规制：1）欧盟《人工智能法案》（AI Act）第50条，对特定AI系统提供者和部署者的透明度义务进行规定，要求特定AI系统的提供者和部署者对AI生成物进行标识；
2）美国加州2024年通过的《加州人工智能透明度法案》（California AI Transparency Act）将于2026年1月1日起实施，亦对AI系统生成物进行披露和创建水印的要求进行规定。
《标识办法》与境外人工智能立法在内容标识义务主体、标识义务等方面均存在一定区别。1、《标识办法》的义务主体
《标识办法》项下的义务主体包括服务提供者，以及平台提供者、应用程序分发平台。《标识办法》延伸了合规管理的链条，明确规定信息传播平台也需要加强对生成内容标识的审核。《标识办法》适用于符合《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》规定情形的网络信息服务提供者（“服务提供者”）开展人工智能生成合成内容标识。因此，《标识办法》中服务提供者的范围包含算法推荐服务提供者、深度合成服务提供者以及生成式人工智能服务提供者。《标识办法》第6条、第7条亦分别对网络信息内容传播平台服务提供者（“内容平台提供者”） 、互联网应用程序分发平台的相关义务进行规定。2、境外立法项下的义务主体
不同于中国立法，欧盟《人工智能法案》设立了多层次的义务主体，包括生成合成内容的AI系统的提供者，以及特定AI系统（如深度伪造、情绪识别）的部署者；《加州人工智能透明度法案》更侧重于监管生成内容的直接提供者，标识义务主体为AI系统的提供者，同时排除部分未达定量门槛的AI系统或是特定的AI系统提供者适用相关规则。义务主体和相关方对比 |
|---|
《标识办法》 | |
欧盟《人工智能法案》 | 1）为直接交互而设计的AI系统提供者 2）生成合成内容的AI系统提供者（包括通用目的AI系统） 1）生成或操纵深度伪造图像、声音或视频内容的AI系统部署者 2）情绪识别系统或生物特征分类的AI系统部署者 |
《加州人工智能透明度法案》 | 1）创建、编码或以其他方式提供生成式AI系统，该系统每月访客或用户超过100万人且在加州内可公开访问（100 万用户门槛不限于位于加州的用户，该门槛是位于任何地方的每月100万用户，该AI系统可供加州的用户使用） 1）未达到定量门槛 2）生成文本、代码或其他类型的非图像、视频或音频的AI生成物，这意味着一些广泛使用的AI聊天机器人被排除在外 3）在视频游戏、电视、流媒体、电影或互动体验中提供专门的非用户生成内容 |
1、中国《标识办法》的标识义务
《标识办法》中明确规定服务提供者进行标识的2类方式包括显式标识和隐式标识。并对显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可被用户明显感知到的标识。隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。《标识国标》进一步对文本、图片、音频、视频、交互场景界面等典型场景的显式标识，以及元数据隐式标识的落地实施方法进行规定，协助服务提供者完成相关内容生成物的标识义务。2、境外立法的标识义务
如上文所述，欧盟《人工智能法案》对直接交互AI系统和生成合成内容的AI系统提供者、深度伪造和情绪识别的AI系统部署者均规定了披露义务。但是不同于中国立法，欧盟《人工智能法案》未区分显式标识或隐式标识。欧盟《人工智能法案》对于生成合成内容的AI系统提供者，要求其披露的标识必须是机器可读的，而针对供人类观看的标识没有明确要求。对于进一步的标识和披露方法，尚待人工智能办公室发布指南向AI系统提供者和部署者提供指导。《加州人工智能透明度法案》对提供者履行显式披露和隐式披露均有规定，除此以外还规定AI系统提供者应当免费向用户公开提供“AI 检测工具”，允许用户通过检测工具来确定图像、视频或音频内容是否由提供商的AI 系统创建或更改。但是上述规定如何落地实施，有待进一步观察行业实践的情况。各类主体的义务对比 |
|---|
| | 符合以下情形的服务提供者应当对生成合成内容添加显式标识：在生成合成内容（文本、音频、图片、视频、虚拟场景、交互场景）的适当位置添加显式标识（具体要求和示例见本文第二部分） |
| 1. 不同于显式标识仅为特定情形下的要求，服务提供者均需对生成合成内容添加隐式标识。2. 隐式标识的实现方式包括添加数字水印、元数据隐式标识等方式。文件元数据是指按照特定编码格式嵌入到文件头部的描述性信息，用于记录文件来源、属性、用途、版权等信息内容。 |
| 1. 当核验到文件元数据中存在的隐式标识，用户声明为生成合成内容，或检测到显示标识或其他生成合成痕迹等情形的，采取适当方式在发布内容周边添加显著的提示标识，提醒用户该内容（可能、疑似）属于生成合成内容；2. 对于确为、可能和疑似生成合成内容的，应当在文件元数据中添加生成合成内容属性信息、传播平台名称或编码、内容编号等传播要素信息；3. 提供必要的标识功能，并提醒用户主动声明发布内容中是否包含生成合成内容。 |
| 在应用程序上架或上线审核时，应当核验服务提供者是否按要求提供生成合成内容标识功能。 |
| | 1. 为直接交互而设计的AI系统（如：聊天机器人）
- 系统提供者的设计和开发方式应当让相关自然人知道他们正在与AI系统互动
- 豁免情形：由于使用环境和背景，AI系统的使用是显而易见的。（例如，通过语音命令与用户交互的虚拟辅助系统，如Siri（苹果））
|
2. 生成合成内容的AI系统（包括通用目的AI系统）
- 提供商应确保人工智能系统的输出以机器可读的格式标记，并可检测为人工生成或操纵的
- 标记必须使用技术解决方案进行，例如水印、元数据标识符、用于证明内容来源和真实性的加密方法、日志记录方法、指纹或其他技术
- 此类别包括AI文本生成器如 ChatGPT，和AI图像和视频生成器如Midjourney 或 DALL-E 等
- 豁免情形：a) 执行标准编辑支持功能或不会显著改变部署者提供的输入数据或其语义的 AI 系统；b) 经法律授权用于检测、预防或调查犯罪行为的AI系统
|
| 1. 生成或操纵深度伪造图像、声音或视频内容的AI系统
- 对于生成或操纵深度伪造图像、声音或视频内容的人工智能系统，必须披露内容是AI生成或操纵的
- 豁免情形：a) 法律允许用于侦查、预防、调查或起诉刑事犯罪；b) 如果图像、声音或视频内容明显属于艺术性、创造性、讽刺性、虚构性或类似性的作品或节目，则本段规定的透明度义务应仅限于以适当的方式披露此类生成或操纵的内容的存在，且不损害作品的呈现或欣赏。例如，对公众利益人物的夸张讽刺描绘
|
2. 生成或操纵了以向公众告知公共利益事项为目的而发布的文本，则必须披露该文本是AI生成或操纵的
- 豁免情形: a) 法律允许用于侦查、预防、调查或起诉刑事犯罪；b) 生成的文本内容需要人工审核或编辑控制，由自然人或法人对内容的发布承担编辑责任。例如传统媒体所有者（报纸出版商）
|
- 情绪识别系统或生物特征分类系统的部署者应告知有关自然人该系统的运行情况
- 豁免情形：经法律授权用于检测、预防或调查刑事犯罪的AI系统，前提是采取适当的保障措施来保护第三方的权利和自由
|
| | 提供商必须免费向用户公开提供“AI 检测工具”，并且有义务收集和使用有关该工具有效性的反馈。AI 检测工具必须：- 允许用户确定图像、视频或音频内容是否由提供商的AI 系统创建或更改。
- 向用户提供显式内容来源的元数据或其他嵌入数据（元数据中不包括任何个人信息）。
- 支持通过 API 访问，以便用户无需访问所涵盖提供商的网站即可使用检测工具。
|
| 提供商必须让用户能够在使用提供商的人工智能系统创建的图像、视频和音频内容中添加显式披露。这些显式披露必须表明内容是由人工智能生成的，并且清晰、显眼且对理性人来说易于理解，并且“极难删除”。 |
| 提供商的人工智能系统创建的图像、视频和音频内容必须包含隐式披露。这些披露必须可被提供商的人工智能检测工具检测到，且“极难删除”，必须在技术可行且合理的范围内包含以下信息（或提供此信息的链接）： |
中国《标识国标》的标识方法主要包括显示标识、隐式标识，对于文本内容、图片内容、音频内容、视频内容、交互场景均提出相应的标识要求。
1、显式标识
文本内容显式标识
- 标识要素：1）人工智能要素：包含“人工智能”或“AI”，表明使用人工智能技术；2）生成合成要素：包含“生成”和/或“合成”，表明内容制作方式为生成和/或合成。
- 标识位置：1）文本的起始位置；2) 文本的末尾位置；3) 文本的中间适当位置
图片内容显式标识
音频内容显式标识
采用语音标识或音频节奏标识
标识要素：1）人工智能要素：包含“人工智能”或“AI”，表明使用人工智能技术；和2）生成合成要素：包含“生成”和/或“合成”，表明内容制作方式为生成和/或合成。
音频节奏标识应为“短长 短短”的节奏；语音标识应使用正常语速
标识位置：1）音频的起始位置；2）音频的末尾位置；或 3）音频的中间适当位置。
示例：
视频内容显式标识
采用文字提示
标识要素：1）人工智能要素：包含“人工智能”或“AI”，表明使用人工智能技术；和2）生成合成要素：包含“生成”和/或“合成”，表明内容制作方式为生成和/或合成。
标识位置：视频画面的边或角；视频起始画面，可位于视频末尾和中间适当位置
字型应清晰可辨，文字高度应不低于画面最短边长度的5%
示例：
交互场景显式标识
采用文字提示
标识要素：1）人工智能要素：包含“人工智能”或“AI”，表明使用人工智能技术；和2）生成合成要素：包含“生成”和/或“合成”，表明内容制作方式为生成和/或合成。
内容周边显式标识应采取：1）在内容展示区域附近持续显式提示文字；或2）在内容展示区域的背景均匀添加包含提示文字的显式水印标识
非内容周边显式标识应采取：1）音频、视频交互区域附近持续显式提示文字；或2）交互场景界面顶部、底部等适当位置持续显式提示文字。
字型和颜色应清晰可辨
示例：
隐式标识
元数据隐式标识
目前行业实践中大部分AI智能助手或软件主要对AI生成的图片进行显式标识，示例如下。（上述是两款大语言模型生成的图片，右下角带有AI标识）
但大部分AI产品在生产文本内容、音频内容、交互场景下尚未有明显的显式标识，有待在《标识办法》生效和实施后，按照相关规定对人工智能生成内容进行披露和标识。《人工智能生成合成内容标识办法（征求意见稿）》和《网络安全技术 人工智能生成合成内容标识方法（征求意见稿）》在原有的算法和人工智能监管法规的基础上，率先对内容生成物进行标识的义务的进行细化规定，将为人工智能企业对AI产品生成物进行标识提供有效指引。由于人工智能仍是较为前沿且不断发展的领域，《人工智能生成合成内容标识办法（征求意见稿）》也尚未定稿，相信人工智能生成合成内容标识制度仍可能有会新的变化。我们将关注人工智能生成合成标识的立法进展及行业实践，为企业开展内容标识提供有益指引。（本文作者：世辉律师事务所 王新锐 余扬横波）
|
世辉律师事务所是一家以服务科技公司为特色的综合性律所，在北京、在上海、深圳设有分支机构。世辉的客户均为行业领军公司和著名投资机构。世辉目前担任多个官方组织和行业协会委员，包括CCIA数据安全委员会副主任委员等。 |
还没有评论，来说两句吧...