RSAC2024: 洞悉安全新趋势 - 天空卫士前沿观察

• Antimatter：在AIGC和ML中通过数据分类和消减处理数据安全，这是AIGC广泛应用于敏感信息处理时的关键技术。

• Bedrock Security：利用AIGC推理引擎简化云环境数据安全。

• Harmonic Security：专注于AIGC的数据隐私和安全，非常及时地解决了AIGC和数据滥用日益增长的担忧。

• RAD Security：使用行为分析进行云原生威胁检测，对抗不断演变的网络威胁。

• Reality Defender：专注于检测深度伪造内容，解决了数字内容验证的重大缺口。

• Mitiga：提供云调查和响应解决方案，强调在处理安全事件时的自动化和效率。

• Dropzone AIGC：通过AIGC加强SOC分析师的能力，为安全团队减压。

• P0 Security：提供针对人类和机器身份的云访问治理。

• Aembit：专注于多平台的工作负载身份和访问管理，重点是零信任和基于策略的访问，对提高云安全至关重要。

• VulnCheck：提供漏洞和利用情报服务，增强预防性地应对威胁的能力。

最终，Reality Defender 以其独特的深度伪造内容检测技术赢得冠军，体现了市场对新型内容安全问题的高度关注。

作为RSAC创新沙盒大赛的决赛选手意味着一个厂商或其产品在网络安全领域具有显著的创新性和潜在的市场影响力。RSAC创新沙盒大赛是一个高度重视的平台，旨在展示那些能够解决当前和未来网络安全挑战的创新解决方案。

随着技术的持续进步，在接下来的几年中，数据安全将持续成为网络安全创新的热点领域。AIGC的革命性影响将推动我们进入一个更高效、更智能的安全防护新时代，为个人和企业数据提供更加坚实的保护。

俗话说“道高一尺，魔高一丈”，AIGC在各行各业中开始蓬勃兴起使用的时候，利用AIGC来进行攻击、欺骗，针对AIGC的应用投毒、干扰等安全攻击也开始快速发展，比如在创新沙盒大赛中获奖的Reality Defender的成功突显了对深度伪造内容的检测与防护的需求日渐增加，这是一个新兴的安全领域，与日益复杂的信息安全挑战相对应。

同时，在使用AIGC时可能带来的企业敏感数据泄密、隐私保护、合规、跨境等安全问题又变成企业需要面临的新的挑战。在这个方面，我们发现DLP技术重返创新舞台，DLP技术中的很多基础能力，比如数据发现、数据分类分级，数据动态识别与管控等功能，变成了AIGC时代的数据安全保护的核心能力。AIGC的应用，从数据准备、数据清洗开始，到数据输出及应用，大量涉及非结构化数据的流动和使用管控，DLP技术的分类分级保护能力，正好可以在这个过程中对数据实现有效的分类分级保护，让数据和应用在通过AIGC发挥价值的同时，保护企业知识产权、个人隐私等敏感数据不被泄露。在今年RSA大会中，我们也看到大量的针对AIGC的使用进行保护的厂商，都不约而同的采用了DLP技术作为核心保护能力。

对于参展的主流安全厂商而言，如何能利用好AIGC，则成为了今年的最大创新点。以ChatGPT为代表的大模型以其方便、易用，分析能力强劲，使用自然语言交互为特点，可以赋能到各行各业。针对安全行业，应用场景也在不断被发掘和使用。

比如此次创新沙盒大赛中的Antimatter，Harmonic Security都是典型的以内容识别为核心的厂商，在其中加入了AIGC的赋能后，提高效率，加强用户体验，将很多过去复杂的处理变得更加简单。

我们对其他厂商的应用也进行了深入的分析，从整体上看，AIGC的应用在各安全产品中已经开始普及。但在AIGC的应用过程中，我们需要关注以下问题:

• 准确性，AIGC的输出并不是如数据库查询结果一样准确，因此对于0/1类型的安全防护，AIGC的概率性输出可能会在某些程度上造成困扰，但在一些数据安全风险分析场景比如分类分级、脱敏、报告编写等场景，AIGC则可以发挥较大的作用。

• 服务提供模式，由于AIGC大部分使用场景即使只是做推理，在大规模应用时也需要很强的计算资源支撑。如果这些在云端提供，则会造成另一层面的泄密顾虑，如果在用户端本地部署，则会有高昂的部署成本和运行成本。需要在这个方面与用户达成一致。

• 数据规模，对于大多数AIGC模型，单次的输入数据量是有限制的，或者输入量大了之后会带来对算力的极大要求，因此，在很多的应用场景下，比如关联分析、海量日志异常判断等，则需要精心设计输入、输出以及整合算法，通过多次的分析整合得到结果。

总的来说，从数据安全的角度看，AIGC比较适合数据安全的各个环节使用，能极大的提高效率，加强用户体验。

RSAC创新沙盒大赛的深入分析揭示了网络安全作为创新的中心舞台，正不断推动着从数据保护到内容真实性验证的技术革新。企业和开发者正致力于开发更为先进和全面的解决方案，以应对日益复杂的安全威胁。自2023年起，AIGC的应用已经开始在多个行业中崭露头角，包括制造业、医疗保健、金融和零售等，其在网络安全领域的防御能力也在不断增强，以保持对恶意威胁的领先优势。正如业界专家曼迪亚所强调的，我们必须采取先行一步的策略，积极推动AIGC在保障网络安全方面的应用。AIGC对网络安全的潜在影响是深远和革命性的，它预示着一个更加智能化和自动化的安全防护时代的到来。

2024年的RSAC不仅为我们提供了一次学习和启发的机会，更为我们描绘了一个由AIGC技术深刻影响的网络安全新世界。