刷到的“明星推荐”可能是AI合成？收到的“亲友求助”视频或许是造假？……当AI生成内容越来越逼真，我们该如何看清真相？
别急，9月1日起施行的《人工智能生成合成内容标识办法》给出了答案。接下来，和网警一起了解这项新规吧！
为什么要“贴标识”？
AI滥用已成社会公害
AI技术带来的“以假乱真”正从虚拟走向现实，滥用风险已成为我们必须直面的一道难题。一些不良商家为逐利，滥用AI合成假视频，冒充名医、名人虚假宣传，严重侵害他人名誉；部分网民为引流吸睛，利用AI生成谣言在网上传播，扰乱社会秩序；更有不法分子利用AI“换脸”“拟声”冒充亲友实施不法行为，直接威胁公众财产安全。
规范AI生成内容
全链条责任清单请收好
构建可信的AI生成内容生态，需要产业链上各方的共同努力。
| 责任主体 | 具体要做什么？ |
在内容生产环节对生成合成内容添加标识； 确保下载、复制、导出文件时有显式标识； 在用户服务协议中明确标识方法、样式等规范，提示用户阅读并理解相关标识管理要求。 | |
传播 平台 | 核验文件元数据中是否含有隐式标识； 对未标识但检测到AI痕迹的内容添加风险提示。 |
用户 | 使用AI生成内容时，主动声明并使用服务提供者提供的标识功能进行标识。 |
互联网应用程序分发 平台 | 在应用程序上架或上线审核时，核验应用是否提供人工智能生成合成服务及相关标识材料。若平台未尽审核义务，将与违规用户构成共同侵权，承担连带赔偿责任。 |
怎么“贴标识”？
显示、隐式双保险
人工智能生成合成内容标识包括显式标识和隐式标识。
显示标识
在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识。
·文本：起始、末尾或者中间适当位置添加文字提示或者通用符号提示等标识；
·音频：起始、末尾或者中间适当位置添加语音提示或者音频节奏提示等标识；
·图片：适当位置添加显著的提示标识；
·视频：起始画面、视频播放周边、末尾或中间适当位置添加标识；
·虚拟场景：在起始画面或虚拟场景持续服务过程中适当位置添加标识；
·其他：其他生成合成服务场景根据自身应用特点添加显著的提示标识。
隐式标识
采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识，包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息。
数字水印：鼓励添加不可篡改的隐形标记，实现内容篡改检测与来源追溯；
文件元数据：按照特定编码格式嵌入到文件头部的描述性信息，用于记录文件来源、属性、用途等信息内容。
AI 标识有红线！
这些行为千万别碰
《人工智能生成合成内容标识办法》明确规定：任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识，不得为他人实施上述恶意行为提供工具或者服务，不得通过不正当标识手段损害他人合法权益。
违反本办法规定的，由网信、电信、公安和广播电视等有关主管部门依据职责，按照有关法律、行政法规、部门规章的规定予以处理。
快速识破AI内容
你可以这样做
掌握以下识破AI“画皮”小妙招，做个聪明的内容消费者吧！
1、查标识：缺标漏标是预警
合规标识是区分AI与真实内容的关键。刷到内容时，查看是否有“AI生成”、“本回答由人工智能生成”等文字提示，或相关图形、符号标识。在音频、视频中，留意是否有语音提示。
2、看细节：细微漏洞藏真相
AI再逼真也有破绽：
| 图像 | 看光线：真实图像光线自然，AI图像常出现光线矛盾，如人物与背景光线方向不符； 看边缘：放大图像边缘，真实图像过渡平滑，AI图像可能出现像素断层、锯齿状。 |
| 文本 | 问细节：描述是否空洞模糊，缺乏具体的时间、地点、人物等关键信息； 问逻辑：句子或段落之间的衔接是否生硬，是否存在因果混乱或前言不搭后语； 问表达：是否存在用词不当或机械重复的语病。 |
| 音频 | 听波形：真实语音波形自然带呼吸，AI语音机械平直，尾音常“戛然而止”； 转文字：利用工具将语音转为文字，AI语音易有字词错漏或语句不通； 辨语气：真人说话有情感起伏或停顿，AI语气更显生硬、单一，缺乏人类特有的情绪变化。 |
3、查来源：交叉验证辨真伪
信息时代，眼见未必为实，但多方印证一定能接近真相。
4、查出身：用搜索引擎“以图搜图”或专业识图工具，追溯图片原始出处；留意图片EXIF信息（记录拍摄参数），有详细参数则真实性更高。
5、查身份：面对热点事件，首先审视发布者。若无明确作者、也无任何正规媒体认证，内容大概率存疑。
6、查官方通报：主动检索各级政府官网或权威新闻机构的报道，用官方信源为信息“盖章定论”。
AI技术是把“双刃剑”
打标识不是为了设限
而是让AI走得更远
让我们共同努力
营造清朗网络空间
共享科技发展红利！
素材 | 北京网警
— 欢迎关注 —
推荐站内搜索：最好用的开发软件、免费开源系统、渗透测试工具云盘下载、最新渗透测试资料、最新黑客工具下载……
还没有评论，来说两句吧...