昨日，相关话题和文章在网络安全圈内被刷屏，老周2023年一直对外强调的360的AI能力交出了第一份轰动行业的“战绩”。
2022年，ChatGPT的发布引领了大模型应用突破；2023年，“百模大战”开启了AIGC元年。作为大模型落地场景之一，安全行业垂直大模型发展迅速，与此同时，安全大模型的能力边界逐渐显现，“像专家一样运营安全”成为行业对安全大模型的新期待。由此，Agent智能体进入大众视野，在基于大模型的AI Agent赋能下，安全行业迎来了智能主义时代。
2023年被称为AIGC元年，大模型浪潮席卷全球，B端产业垂直大模型逐渐成为主战场。据IDC调查显示，网络安全是生成式人工智能影响最大的行业之一，国内外安全厂商积极探索大模型应用，安全大模型百花齐放。然而，经过一段时间的发展，安全大模型的能力边界逐渐显现。在功能方面，仅有安全问答、告警解读等单一功能的安全大模型难以解决用户痛点；在认知方面，缺乏海量安全语料库训练的大模型存在知识瓶颈，安全专业能力差强人意；在成本方面，安全大模型训练微调和部署的资源消耗依然较大，中小企业难以承担高昂的投入。基于此，安全大模型的推广落地亟需优化升级，Agent智能体进入人们视野。基于大模型的AI Agent展现出自主思考决策和执行安全工具的能力，有望从根本上解决用户痛点问题，由此步入智能主义时代。
二、让大模型像人一样工作，AI Agent开启智能化安全服务新范式
2.1 AI Agent：更独立、更智能的AI应用Agent智能体是一种能够感知环境、进行决策和执行动作的智能实体。大模型时代的到来加速了AI技术的平民化，也为Agent的突破带来契机，Agent跨入基于大模型的智能体阶段。目前，大部分AI与人类的交互模式，已从工具型AI发展至助理式AI，各类AI副驾不再是机械地完成人类指令，而是可以参与人类工作流，与人类协同工作。而基于大模型的AI Agent则更加独立，可以在一定业务场景中自主调用资源完成任务，人类在其中更多起到监督和评估作用，尽管AI Agent会承担大部分工作量，但人类仍然发挥主导作用。相较于大模型回答效果与用户指令的强相关，AI Agent只需给定一个目标，即可针对目标独立思考、获取知识、自主研判并做出行动，它会根据给定任务详细拆解计划步骤，并依靠来自外界反馈和专家引导，通过自主思考，自己给自己创建指令，来实现目标。智能体可以拆分为大模型、规划、记忆与工具使用四个组件部分。大模型是能够理解任务并进行决策的“大脑”；规划模块则负责分解任务、制定行动计划，以及检查、监督和改进计划；记忆模块负责存储上下文信息、专家知识、用户干预信息等，确保任务执行过程中前后目标一致；工具使用模块则是智能体的“双手”，能利用外部资源或工具执行任务。随着大模型展现出上下文学习、推理和思考链等多种类似于人类思考方式的能力，以安全大模型为核心的安全智能体，使解决垂直领域复杂问题、实现自然语言交互任务成为可能。安全智能体综合利用大模型的生成能力和专家的经验，灵活自适应地编排任务方案，实现对安全工具的调用，从而形成智能化运营的能力。相较于简单的AI工具，AI智能体具有更广泛的应用、更灵活的交互以及更强大的能力，使其更全面的满足用户需求并适应不断变化的环境，帮助用户从日常任务和重复劳动中解放出来。同时，通过训练的安全垂直类的智能体可以实现低成本规模化复制，其独立分析、计划和解决问题的优势，进一步降低技术门槛，真正帮助用户提升安全能力、提高运营效率。在基于智能体的智能系统中，人类负责设定目标、提供资源和监督结果；智能体负责完成任务拆分、工具选择和进度控制，智能体和各类工具的调用组合，可以实现场景自动化能力。在安全领域，安全智能体+安全工具的组合形成基于智能体的自动化安全运营服务，正式开启“智能主义”的数字安全新范式。其中，安全智能体负责规划分解、任务执行、工具调用、记忆增强等工作；安全工具负责漏洞扫描、样本检测、流量分析等具体功能的实现。两者构成了一个有机的整体，随着智能体水平的不断提升和安全工具的持续扩充，整个系统的安全能力不断提高。对于安全智能体来说，大量高质量的安全数据、样本、特征等数据语料喂养的安全大模型，是智能体产出正确安全知识的基础，基于大模型，智能体对任务进行分解和规划，并通过反思和自省不断优化提升；其次，拥有广泛实战对抗能力的专家对智能体的干预和引导，则帮助智能体优化编排剧本，持续提升处置能力；第三，将实战经验沉淀的丰富的技战术知识图谱与大模型相结合，可以帮助智能体确保解决已知安全问题的精度；最后，智能体与大模型最大区别在于能够使用外部工具拓展模型能力，所以，丰富优质的安全工具是帮助智能体体系化解决复杂安全问题的关键。
2023年6月，360发布认知型通用大模型360智脑4.0，并宣布360智脑已接入360旗下产品全家桶；8月，360发布国内首个可交付的安全行业大模型——360安全大模型。2024年，《仅需一分钟，360安全智能体完成了智能化APT猎杀》使360安全智能体进入大众视野：某金融单位疑似遭到APT组织攻击，几乎同一时间，安全运营人员就收到了来自360安全智能体的告警信息和包含攻击溯源、受害资产等内容的完整分析报告。360安全智能体，是基于360安全智脑大模型的智能体系统，能提供目标理解、逻辑推理、效果评估和知识记忆等能力，支持连接、配置、驱动、协同各类安全工具产品，显著提升单个产品和系统整体的安全能力。至此，360率先完成从安全大模型到安全智能体的跃进。360安全智能体以360安全智脑大模型为核心，以任务编排引擎、任务生成引擎、监督评测引擎、指令调度引擎、记忆存储、执行反馈等为组件，综合利用360安全智脑大模型的生成能力和专家经验，灵活自适应地编排任务方案，实现对安全工具的准确调用，从而形成智能化安全运营的能力。提及影响安全智能体的“数据、专家、工具”三大要素，360已沉淀多年，久经市场考验。展开来说：首先，360积累了全球规模最大的安全大数据、最广泛的样本、最丰富的威胁行为特征，并将这些数据、样本、特征训练到大模型中，使得360安全智能体具有先天的安全基因优势；其次，360安全专家拥有近20年攻防实战经验，沉淀形成攻防技战术图谱，一方面内化为安全大模型的能力，另一方面储存至安全智能体记忆模块，持续增强安全智能体编排能力；最后，基于360深耕安全垂类场景，360安全智能体可以适配、控制、协作各类型安全工具，体系化地解决复杂安全运营问题。大模型步入深水区，安全智能体的发展道阻且长。为此，360立足“小切口、大纵深”方法论，以“安全场景适用度”为指标依据，构造适合大模型特性的高价值安全场景，推进安全智能体的落地应用。目前，360安全智能体已经突破了自动化威胁狩猎、自动化安全运营等场景的各难点步骤，实现了场景自动化。运营人员负责设定目标、提供资源和监督结果，安全智能体完成任务拆分、工具选择和进度控制等，把执行结果返回给运营人员，安全技术门槛进一步降低，真正实现安全能力的提升和运营效率的提高。360指出：“人工智能发展路上，智能体崭露头角。360安全智能体推进安全跨进智能时代，360探索数字安全的脚步从未停止，时间将是最好的答案。”
还没有评论，来说两句吧...