Facebook、Instagram将显著标记由AI生成的音视频内容

据CyberNews消息，Meta于4月5日宣布将对旗下Facebook 和 Instagram平台上的数字创建和更改媒体政策进行调整，以遏制在美国大选前利用人工智能进行的深度伪造内容传播。

据Meta内容政策副总裁莫妮卡-比克特（Monika Bickert）透露，这一政策将从今年5月起生效，其平台上发布的由人工智能生成的视频、图片和音频将被打上相应的标签，以进行显著区分。

人工智能生成的视频、音频和图片内容上标注新的 "Made with AI"（人工智能制造）标签，旨在帮助用户识别被操纵的内容

此外，对于在重要事实问题上容易对公众造成欺骗或误导的高风险性内容，无论是否涉及人工智能生成，Meta都将为其单独贴上更醒目的标签。

这一政策预示Meta将改变对可能存在篡改风险的内容的处理方式。从过去的删除政策转变为保留，同时向观众表明有关内容制作来源及过程的信息。

Meta 此前还宣布了一项计划——利用文件中内置的隐形标记来检测使用其他公司的生成式人工智能工具制作的图片，但该计划并未给出具体的实施日期。

公司发言人告诉路透社，新的标签方法将适用于Facebook、Instagram 和 Threads 服务上发布的内容。该公司的其他服务，包括 WhatsApp 和 Quest 虚拟现实头盔将适用与之不同的规则。

在此之前，技术人员曾警告称，生成式人工智能可能会影响美国大选，对Meta甚至是OpenAI 等供应商发布的指导方针界限构成挑战。

今年 2 月，Meta 监督委员会审查了美国总统乔-拜登（Joe Biden）去年在 Facebook 上发布的一段视频后，称Meta关于“受操纵媒体内容”的现有规则 "不连贯"，这段视频篡改了真实画面，错误地暗示拜登有不当行为。由于 Meta 现行的“受操纵媒体内容”政策规定，只有在人工智能制作的视频或让人看起来说了实际上从未说过的话的视频会被禁止。

因此，董事会表示，该政策也应适用于非人工智能内容（其误导性 "不一定比人工智能生成的内容低"），以及纯音频内容和描述人们做了实际上从未做过的事情的视频。