人工智能+数字安全，稳了！

2024年政府工作报告中提出，要深入推进数字经济创新发展。制定支持数字经济高质量发展政策，积极推进数字产业化、产业数字化，促进数字技术和实体经济深度融合。深化大数据、人工智能等研发应用，开展“人工智能+”行动，打造具有国际竞争力的数字产业集群。

“人工智能+”上升为一种行动，意味着国家将加强顶层设计，加快形成以人工智能为引擎的新质生产力。人工智能与数字化技术“+”，与数字经济下百行千业的业务场景“+”，作为数字经济发展的底座和基石，数字安全更应首当其冲，共创“+”绩！

人工智能赋能数字安全的攻与防

2023年，以ChatGPT为代表的生成式人工智能开启AIGC元年，2024年，大模型进入落地应用元年。与其他“人工智能+”行业不同，在安全行业，人工智能不仅会对于安全产品和服务本身带来改变，而且能够通过降低安全攻击门槛带来行业总需求的提升，攻防两端，人工智能都在驱动着。

AI+

攻

攻击门槛降低，安全风险显现

以ChatGPT为代表的生成式人工智能技术可以快速生成钓鱼邮件、编写恶意软件代码等，大大降低了网络攻击的技术门槛和成本，进而导致攻击数量激增。据Darktrace数据，生成式人工智能技术导致网络邮件钓鱼邮件攻击增长135%。

对于攻击者来说，机器学习、深度学习等技术使网络攻击趋向自动化、智能化和武器化，提高了攻击的数量、复杂程度和被检测难度。同时，网络攻击服务化、勒索即服务等普及，降低了对于攻击者自身能力的要求：不需要拥有太高黑客技能也可以通过购买获得攻击工具。

如何应对利用AI技术进行的网络攻击，成为“人工智能+数字安全”一大考题。

AI+

防

防守能力提升，运营降本增效

在安全防护体系中，防火墙、终端等单点安全产品往往已经具备了较高的自动化水平，安全运营本身却成为自动化程度最低的一环：传统安全设备供应商众多，数据混杂，协作困难；处置流程自动化程度低，面对告警风暴防御效果大打折扣；攻击方使用大模型后，威胁升级，对安全人员的防御能力提出新的要求，安全运营工作效率和效果的提升陷入瓶颈。

人工智能+数字安全，让安全行业拥抱大模型，以智能对抗智能，以AI赋能防守，用大模型拉通割裂的产品、用大模型发挥资深专家的研判分析能力、用大模型逐步落地自动化安全运营，实现了安全能力和运营效率的双重提升。

| /

★

在安全能力上，对于经验不足的安全运维新手，大模型生成能力和专家经验，可以帮助他们快速提升运营能力，掌握运营技能以迅速达到中高级安全人员处置水平，从一线运营迅速成为安全专家，降低安全运营门槛；

| /

★

在运营效率上，大模型帮助安全人员自动执行数据收集、提取、告警降噪等重复且繁琐的基础工作，同时通过自然语言提示实现检测、调查或响应工作流程，将处置响应时间从数天或数小时缩短到分钟级甚至秒级，大大降低安全运营的时间和人力成本。

大模型安全和安全大模型同样重要

大模型是一把双刃剑，在提高生产力的同时也带来了风险。大模型的安全，是保障人工智能技术可持续发展、实现广泛应用的重要基础，对确保人工智能系统的可靠性和安全性意义重大，更需国家和企业重点应对和保障。

与人工智能自身相关的安全问题在不断演进，人工智能的算法发展带来数据投毒攻击、恶意样本攻击等新安全挑战；生成式人工智能在对话交互过程中存在数据非法获取、泄露、滥用等问题；随着AI技术滥用，AI欺诈等新安全威胁也在持续增加。

如何保证AI和大模型的安全性，也成为“人工智能+数字安全”领域的又一重要考题。

躬身入局