AI鉴真刻不容缓！别让AI伪造偷走我们的善意

作为网络空间安全与社会治理领域国家队，国投智能2017年成立AI研发中心，为了应对利用人工智能技术可能带来的安全问题，2019年针对深度合成技术又特别成立专项研究团队，2024年公司还提出了“All in AI”战略，用AI技术全面赋能产品。通过对深度合成和生成式AI技术的深入研究以及在人工智能安全方向的经验积累，公司AI团队自主研发深度伪造视频图像检测鉴定的核心引擎，推出了AI-3300慧眼视频图像鉴真工作站、人工智能大模型内容检测平台、“美亚内容鉴真平台”微信小程序等，全面支持人工智能生成视频图像、音频和文本等多媒体内容的检测溯源。

其中，AI-3300慧眼视频图像鉴真工作站是一款以人工智能技术为核心的视频图像检验鉴定设备，具有智能鉴定和专业鉴定两种鉴定模式，涵盖40余种鉴定算法，近10种深伪鉴定算法，针对ps篡改，深伪合成，AI生成的视频图像进行检测鉴定，支持卷宗管理和报告生成，为鉴定人员提供一站式视频图像检验鉴定服务。并且符合GA／T1021-2013《视频图像原始性检验技术规范》、GA／T 1022-2013《视频图像真实性检验技术规范》、SF/T 0119-2021《声像资料鉴定通用规范》、SF/T 0153—2023《图片真实性鉴定技术规范》、SF/T 0148-2023《合成人脸图像鉴定技术规范》等视频图像真实性、原始性、合成人脸检验鉴定技术规范标准，可有效支持本次人工智能伪造图像鉴定能力验证的要求。

AI-3300慧眼视频图像鉴真工作站

以虚假图片和视频吸引眼球等行径严重扰乱公众视线、所产生的虚假信息危害极大，不仅会给争分夺秒的抢险救灾工作增添阻碍，无情消费公众的善意与情感，挤占宝贵的公共资源，还极易引发公众的恐慌情绪，甚至有扰乱社会正常秩序的风险。

此次地震期间出现的 AI 伪造视频图像，并非个例。回顾近几年，发生自然灾害或重大新闻事件，常有类似的虚假信息出现，部分别有用心者，甚至利用 “现场直播”“独家照片” 这类极具诱惑性的标题，搭配看似现场拍摄、极具真实感的图片与视频，成功迷惑了众多网友，使其信以为真，纷纷点赞转发。尽管辟谣与澄清信息随后陆续发布，但在此之前，制假、造假、传假者已然凭借这些虚假内容获取了大量流量红利，更有甚者，从中谋取了可观的经济利益。

下一步，美亚柏科将持续聚焦生成式人工智能和AI生成内容的检测识别技术，踔厉奋发，持续发力，按照相关管理要求，针对深度合成生成文本、视频、图像的检测鉴定技术、生成式人工智能技术、人工智能安全取证技术等方面的应用需求，不断打磨推出更为安全、可信、可靠的人工智能技术产品，为打击利用人工智能的新型涉网犯罪，提供有力的技术武器，为维护和保障人工智能的健康发展和规范应用贡献力量！