热点追踪丨AI视频生成技术的新纪元，猫鼠游戏持续博弈

近日，OpenAI发布了文生视频大模型Sora。相较于Runway Gen 2、Pika等AI视频生成应用几秒钟连贯性的视频产出，Sora可生成长达60秒的连续、稳定、高品质视频，且提示文本越充分、细节越精确，生成的视频越真实，迈出了堪称“王炸”新一步。

OpenAI官⽹Sora⽣成的视频片段

在这一技术革命的背后，也引发了关于数字时代信任危机的深层次讨论。随着Sora等视频生成技术日趋成熟，伪造视频愈发逼真，我们不得不面对虚假信息传播加速的风险。例如今年2月，有诈骗团伙利用深度伪造技术向一家跨国公司的香港分公司实施诈骗，并成功骗走2亿港元，这也是香港迄今为止损失最大的AI换脸诈骗案。

当前，尽管Sora生成的视频在复杂场景中仍存在一些可识别的瑕疵，但Sora绝对有能力产出可以骗过普通人的视频，普通用户很可能被伪造视频所蒙蔽，一旦这项技术被恶意滥用，无疑将对社会信任体系、个人名誉权乃至国家安全构成威胁。

生成与防护的猫鼠游戏

生成视频特性解读

AI生成技术产生的视频变得愈发复杂且逼真，人类仅凭视觉表象很难对其进行区分。但从机器检测角度，AI生成视频存在可被检测的痕迹，如存在空间维度和时间维度的扭曲，人物眨眼、头部姿势和举止异常，音素-视素之间的不一致等^[1]。例如Sora在涉及多个对象生成时，存在“突然出现”的现象，在灰狼视频中，一开始有4只狼，突然增加到大约10只。

此外，不同的生成模型创建的视频在时空维度上具有独特的、模型特定的指纹。例如根据同一张图片生成视频，I2VGen-xl模型生成的视频中背景更模糊，Stable Video Diffusion模型生成的视频中人物形象往往更扭曲^[2]，可以通过指纹信息追溯视频生成模型。

检测技术深入探索

生成视频的检测追溯，本质上是一个分类问题，可以通过构建膨胀3D卷积网络（Inflated 3D ConvNet，I3D）、掩码自编码器（Masked Autoencoder，MAE）等深度视觉模型来解决。其中I3D通过将2D滤波器沿时间维度重复并重新缩放来实现，可以有效地提取视频中的相关特征；MAE将视频被分成一系列的时间片段，然后随机选择一部分片段进行掩码，通过预测这些被掩码片段的内容，捕捉视频时间和空间维度的依赖性。

例如在以下生成视频的检测中，基于I3D的检测模型通过视频中的人脸、栅栏、手指和发动机电池等空间特征实现生成视频的检测。基于MAE的检测模型能发现视频帧之间的异常，可以在一个视频中检测到更多的异常点。

模型判断生成视频依据的热力图

猫鼠博弈持续较量

大模型生成和检测之间的猫鼠游戏^[3]是一场永无止境的竞技。随着科技的飞速发展，过去五年中，大模型在文本、图像、视频、音频以及多模式等多个领域的生成能力已经取得了显著的进步。与此同时，深度伪造检测技术也在不断进步，逐步提升对AI生成内容的辨别能力，有效缓解由大模型生成技术带来的诸多问题。

大模型生成与检测的猫鼠游戏

在这场猫鼠游戏中，大模型的生成能力和检测技术的辨别能力在相互推动中不断前进，共同塑造了一个充满挑战与机遇的时代。

Sora时代应对之道

在Sora时代，数据生成与处理能力大幅提升，大模型技术如Sora一方面推动了行业变革，另一方面也催生出深度伪造等导致的信息真实性威胁和隐私安全问题。行业需紧跟技术发展步伐，密切关注视频鉴伪技术的创新，借助深度学习，精细分析视频内容，以应对深度伪造攻击；同时加快算⼒基础设施建设，采用分布式计算、云计算及边缘计算等技术应对大模型运算需求；此外搭建全流程数据处理平台和强化加密算法及隐私保护技术，防止未经授权的数据泄露和滥用。

总之，在Sora时代，应对视频鉴伪挑战需要采用多维度策略，共同筑起数字世界的安全屏障，维护其公正性与公信力。

参考文献：

[1] Sophie J. Nightingale and Kimberley A. Wade，Identifying and minimising the impact of fake visual media: Current and future directions

[2] Yan Pang†, Yang Zhang‡, and Tianhao Wang, VGMShield: Mitigating Misuse of Video Generative Models A Multi-Faceted Approach through Fake Video Detection, Tracing, and Prevention

[3] Li Lin, Neeraj Gupta, Yue Zhang,Detecting Multimedia Generated by Large AI Models: A Survey

迪普科技安全研究院AI团队

作为网络安全行业的领军企业，迪普科技安全研究院基于深厚的AI技术背景和丰富的安全经验，组建了一支专业高效的AI研发团队。团队聚焦于利用AI技术解决复杂的网络安全问题，已成功将相关技术方案应用于态势感知、数据安全、APT、WAF、抗DDoS等产品中，相关产品在多届中国人工智能大赛中斩获最高奖项。未来，迪普科技AI研发团队将继续加强人工智能技术攻关，大力探索“AI+安全”创新应用，为各行各业数字化发展保驾护航。

END