以子之矛，攻子之盾！人工智能创建的恶意软件可以欺骗人工智能杀毒软件

对抗性训练是针对对抗性恶意软件的一种有效防御策略。然而，为此类训练生成对抗性恶意软件样本存在挑战，因为所产生的对抗性恶意软件需要保持隐蔽性和功能性。来自美国和非洲的科学家团队开发了一种创建勒索软件的尖端方法，可以绕过现代基于人工智能的防病毒系统。在他们的论文《EGAN: Evolutional GAN for Ransomware Evasion》中提出了一个名为EGAN的攻击框架来解决这一局限性。EGAN利用进化策略和生成对抗网络选择一系列攻击动作，这些动作可以在保持原始功能性的同时使勒索软件变异。研究者在VirusTotal上列出的流行的AI驱动商业杀毒软件上测试了该框架，并证明了他们的框架能够绕过这些系统的大多数。此外，研究人员还评估了EGAN攻击框架是否能够躲避其他商业非AI杀毒软件，结果表明，这些杀软对生成的对抗性勒索软件检出率明显降低。

EGAN简介

某些类型的勒索软件攻击使用生成对抗网络 ( GAN )，这是一种通过反复试验来提高其能力的深度学习架构。GAN架构由两个人工神经网络组成，它们相互竞争，为特定任务创造越来越好的结果。在这种情况下，这可能意味着分析能够绕过安全措施的恶意软件的特征之后，能够进一步改进软件开发。

科学家创建的方法称为EGAN（进化生成对抗网络）。EGAN结合了进化策略(ES)和生成对抗网络(GAN)，以选择可以修改勒索软件文件同时保持其功能的操作。EGAN中的ES代理与经过训练的算法竞争，该算法通过测试修改勒索软件文件的不同方法来识别恶意软件。

EGAN结构概览

EGAN通过特征提取、对抗性特征向量生成、对抗性勒索软件生成这三个步骤最终生成勒索软件样本。

效果测试

研究者设置了三种试验场景。

一是静态的AI商用杀毒软件检测；70种杀软中仅有5个能够检测出是恶意软件。其中就是安天的杀毒引擎（Antiy-AVL），表现不错。

二是静态商用病毒扫描器检测；使原本大概率检测的情况发生变化，仅有很少部分杀软能够检出。

三是沙箱动态分析；卡巴的动态沙箱没有检出。

结论对建议

确定一种有效的方法来生成对抗性勒索软件以进行对抗性训练，同时不损害其功能性，仍然是一个具有挑战性的任务。然而，本研究提出了一个有力的理由，即使用EGAN（带有GAN的进化策略）来生成对抗性勒索软件。对抗性勒索软件样本在静态和动态勒索软件分类器上进行了评估，应用到勒索软件的变换实现了显著的规避率。

研究结果突显了对抗性勒索软件的令人担忧的性质。具体来说，上述的静态分析证实，勒索软件分类器在检测这类攻击方面是无效的，这与客户的普遍信念相反。此外，这些静态分类器通常旨在解决特定问题集，其运作假设是它们的训练和测试数据来自相同的统计分布。

不幸的是，在高风险应用中，这种假设经常以关键的方式被打破，因为完整的变换与这些统计假设相矛盾，导致这些分类器记录的高规避率。在测试期间，当上传并执行对抗性勒索软件时，VirusTotal上知名的杀毒软件和沙箱未能检测到它。然而，生成的勒索软件样本也可以用来训练分类器和探测器（也称为对抗性训练），因为可以从这些勒索软件菌株中提取动态和静态特征。

参考资源

1、https://arxiv.org/abs/2405.12266