热点追踪丨AI视频生成技术的新纪元，猫鼠游戏持续博弈

在这一技术革命的背后，也引发了关于数字时代信任危机的深层次讨论。随着Sora等视频生成技术日趋成熟，伪造视频愈发逼真，我们不得不面对虚假信息传播加速的风险。例如今年2月，有诈骗团伙利用深度伪造技术向一家跨国公司的香港分公司实施诈骗，并成功骗走2亿港元，这也是香港迄今为止损失最大的AI换脸诈骗案。

AI生成技术产生的视频变得愈发复杂且逼真，人类仅凭视觉表象很难对其进行区分。但从机器检测角度，AI生成视频存在可被检测的痕迹，如存在空间维度和时间维度的扭曲，人物眨眼、头部姿势和举止异常，音素-视素之间的不一致等^[1]。例如Sora在涉及多个对象生成时，存在“突然出现”的现象，在灰狼视频中，一开始有4只狼，突然增加到大约10只。

生成视频的检测追溯，本质上是一个分类问题，可以通过构建膨胀3D卷积网络（Inflated 3D ConvNet，I3D）、掩码自编码器（Masked Autoencoder，MAE）等深度视觉模型来解决。其中I3D通过将2D滤波器沿时间维度重复并重新缩放来实现，可以有效地提取视频中的相关特征；MAE将视频被分成一系列的时间片段，然后随机选择一部分片段进行掩码，通过预测这些被掩码片段的内容，捕捉视频时间和空间维度的依赖性。

例如在以下生成视频的检测中，基于I3D的检测模型通过视频中的人脸、栅栏、手指和发动机电池等空间特征实现生成视频的检测。基于MAE的检测模型能发现视频帧之间的异常，可以在一个视频中检测到更多的异常点。

模型判断生成视频依据的热力图

大模型生成与检测的猫鼠游戏

在这场猫鼠游戏中，大模型的生成能力和检测技术的辨别能力在相互推动中不断前进，共同塑造了一个充满挑战与机遇的时代。

在Sora时代，数据生成与处理能力大幅提升，大模型技术如Sora一方面推动了行业变革，另一方面也催生出深度伪造等导致的信息真实性威胁和隐私安全问题。行业需紧跟技术发展步伐，密切关注视频鉴伪技术的创新，借助深度学习，精细分析视频内容，以应对深度伪造攻击；同时加快算⼒基础设施建设，采用分布式计算、云计算及边缘计算等技术应对大模型运算需求；此外搭建全流程数据处理平台和强化加密算法及隐私保护技术，防止未经授权的数据泄露和滥用。

总之，在Sora时代，应对视频鉴伪挑战需要采用多维度策略，共同筑起数字世界的安全屏障，维护其公正性与公信力。