《中国网信》杂志刊发范渊署名文章：探析智能体驱动的网络安全和数据安全防护新范式

范渊

安恒信息技术股份有限公司董事长

人工智能作为新一轮科技革命和产业变革的核心驱动力，正深刻改变人们的生产、生活和学习方式，引领人类社会迈向人机协同、跨界融合、共创分享的智能时代。

人工智能在各领域的应用不断深入，安全领域迎来新的变革契机。安全问题一直是数字时代面临的严峻挑战，随着网络攻击手段的日益复杂和多样化，传统的安全防护手段难以满足需求。智能体作为人工智能技术发展到一定阶段的产物，具备自主性、学习能力和决策能力，能够在安全防护中发挥独特的作用。它通过对海量日志、告警等数据的实时研判，快速准确地识别潜在的安全威胁，并通过调度安全产品及时响应，极大地提升安全防护的时效性与准确性。

大语言模型与智能体发展

近年来，人工智能发展迅速，尤其是大语言模型，从早期的CNN（卷积神经网络）和RNN（循环神经网络）演进到现在的大规模预训练模型。这些新模型能更精准理解和生成语言，并通过强化学习优化生成策略，使结果更符合人类预期。国外大语言模型OpenAI的GPT系列在语言生成、问答等领域展现出强大的能力，谷歌的BERT模型在自然语言理解任务上取得突破；国内大语言模型则有百度的文心一言、阿里巴巴的通义千问、深度求索公司的DeepSeek，安恒信息技术股份有限公司（以下简称“安恒信息”）的恒脑安全垂域大模型等也在不断优化发展，推动人工智能技术在各行业应用落地。

大语言模型的发展为智能体的出现和发展奠定了坚实基础。大语言模型能够处理和理解自然语言，为智能体提供强大的语言交互和知识理解能力，使智能体能更好地与用户沟通并执行各种任务。

随着大模型技术的跃迁与算力资源的增强，智能体在海内外市场迎来爆发式发展。智能体的核心价值在于其自主性与进化能力，能够自主调用工具、完成任务，并通过反馈学习持续提升能力。它不是简单地执行预设的程序，而是根据环境变化和任务需求自主做出决策和行动。在网络安全领域，智能体赋予大模型实际行动的能力，不仅通过持续优化，快速识别复杂的网络安全威胁模式，还能针对不同安全场景需求迅速做出响应，灵活调整识别策略与防护机制。

典型安全场景中智能体的应用与实践

安全智能体基于大模型强大的任务拆解和规划能力，结合外部知识库、情报库、工具库，可以在诸多安全场景中发挥重要作用。

告警研判场景。智能体可有效识别真实攻击和误报，将安全运营人员从“告警疲劳”中解放出来，使其注意力转移到真正具备威胁的安全事件中，让攻击行为无所遁形。在网络安全防护中，安全告警的及时准确研判至关重要。告警研判智能体实时收集来自各种安全设备的告警信息，如防火墙、入侵检测系统等，通过对海量告警数据进行分析，精准识别攻击意图和攻击方式，结合正常行为模式和异常行为模式库，快速判断告警的真实性和严重程度。与传统人工告警研判相比，告警研判智能体不受主观因素和疲劳的影响，能够实时处理大量告警信息。

恶意软件识别场景。智能体可基于多头注意力机制提取恶意软件中的关键要素，有效忽略特殊字符、空格、编码变种等，有效防御恶意软件的“免杀”逃逸问题。恶意软件是网络安全的一大威胁，其种类繁多且不断变异。恶意软件识别智能体通过深度学习技术，对恶意软件的特征进行学习和识别。它可以分析文件的结构、代码行为、网络连接等特征，构建恶意软件识别模型。当系统中出现新的文件时，恶意软件识别智能体快速对其进行检测，并做出判断。恶意软件识别智能体具有更强的适应性和检测能力，在恶意软件进入系统初期就及时发现并阻止其运行。

钓鱼邮件防范场景。智能体可基于邮件内容、语气、营造氛围等精准识别发件人意图，结合二维码、链接、附件等风险检测实现钓鱼邮件精准识别和联动拦截。钓鱼邮件是网络攻击者常用的手段之一，其隐蔽性强，容易诱导用户误操作从而泄露敏感信息。钓鱼邮件防范智能体对接收的邮件进行全面分析，首先检查邮件的发件人信息、邮件头信息，判断是否存在异常，再对邮件内容进行文本分析，识别是否包含钓鱼关键词、可疑链接等。对包含链接的邮件，钓鱼邮件防范智能体通过安全的方式对链接进行预览和分析，判断链接是否指向恶意网站。

日志审计场景。智能体可综合审计边界防御、流量检测、主机安全等日志，按Kill Chain（杀伤链模型）重组攻击行为，结合行为基线偏离度分析，实现从异常中进一步识别攻击，及时发现和预警安全事件。日志审计是网络安全防护中的重要环节，通过对系统日志的分析可以发现潜在的安全问题。日志审计智能体自动收集和整理来自各种系统和设备的日志数据，包括操作系统日志、应用程序日志、网络设备日志等。它运用自然语言处理和数据分析技术对日志内容进行解析和理解。通过建立日志分析模型，日志审计智能体可以识别出异常的系统操作、潜在的攻击行为以及安全策略的违规情况。

早在两年前，安恒信息就意识到智能体是改变网络安全行业的一项革命性技术，并快速跟进，于2025年推出安全AI智能体——恒脑3.0。依托恒脑安全智能体开发应用平台，安恒信息已经创建并发布官方智能体数百个，覆盖数十个业务场景，并且快速和现有产品进行能力集成，在安全实践中发挥了重要作用。在成都大运会期间，恒脑安全垂域大模型投入试用，并在杭州亚运会期间得以大范围应用。其中，基于恒脑安全垂域大模型的智能安全助手为安全专家提供了高效的信息查询、问题解答、攻击面分析和报告生成等服务。实测数据显示，恒脑安全垂域大模型使安服效率提升230%，威胁发现能力提升200%。在2025年哈尔滨亚冬会网络安全保障工作中，安恒信息部署了十大安全智能体协同应用。这些智能体包括数据安全风险评估智能体、场馆安全风险分析智能体、异常行为分析智能体、告警研判智能体等，构建起庞大精密的神经网络，能在极短时间内学习海量网络安全知识，对过往安全事件案例的时间节点、攻击路径、漏洞成因等进行吸收分析，转化为自身的“知识储备”。它们全方位覆盖赛事网络，对网络流量、用户行为、系统操作等多个维度的数据进行实时监测和分析。通过建立精细的正常网络行为模型，敏锐地捕捉任何异常变化。从“人海战术”到“人机协同”，智能体与专家能力的深度融合释放了精准作战的潜力，为赛事的顺利进行提供了坚实的网络安全保障。

在2025年哈尔滨亚冬会网络安全保障工作中，安恒信息部署了十大安全智能体协同应用。

智能体在网络安全防护中面临的挑战与未来展望

尽管智能体在网络安全防护中展现出巨大的潜力，但目前仍面临一些挑战。

“幻觉”问题。智能体往往基于大语言模型构建，而大模型存在“幻觉”问题，即生成内容时缺乏事实依据，可能输出不真实或错误的信息。在网络安全领域，这可能导致智能体误判安全威胁，如错误地识别恶意软件或网络攻击，从而做出错误的安全决策，影响网络安全防护的有效性。

提示词注入攻击风险。大模型易遭受提示词注入攻击，攻击者可通过精心设计的提示词诱导网络安全智能体绕过安全管控策略，从而泄露敏感信息或执行不当操作。例如，获取系统的安全配置、用户数据等，使系统的安全防线出现漏洞。

可解释性问题。大模型的决策过程复杂，在网络安全场景中，安全人员需要明确智能体做出安全决策的依据。然而，大模型的“黑盒”特性使这一需求难以满足，降低了对智能体的信任度，且在出现问题时难以追溯和修复。

权限传导风险。智能体权限传导风险是指在智能体（如AI助手、自动化工具等）执行任务时，未能正确将用户的权限信息传递到智能体操作的底层资源（如数据库）中，从而导致智能体以超出用户实际所拥有的权限范围执行操作。这种情况下，低权限用户可能通过智能体访问到高权限数据，进而引发数据泄露等安全问题。例如，企业中一名普通员工（低权限用户）通过问答助手智能体要求获取财务数据（高权限数据），由于未设置权限传导机制或因中间件、通信协议存在缺陷导致权限信息丢失或被篡改，智能体以自身默认的高权限（可能是系统管理员权限）访问数据库，企业的敏感财务数据被低权限用户获取，可能被用于非法目的，如泄露给竞争对手、谋取个人利益等。

尽管面临挑战，但智能体在网络安全防护领域的发展前景依然广阔。从技术发展方向来看，需要加强外部知识集成与推理能力，整合企业内外知识图谱、专业文档库、实时数据库等外部知识体系，通过检索增强生成（RAG）、可控生成机制提升信息准确率，从而有效缓解模型“幻觉”。通过开发更强的模型算法，增强逻辑推理能力，以构建更强大的网络安全智能体。同时，加强智能体自身安全防护能力，按照《生成式人工智能服务管理暂行办法》及《生成式人工智能服务安全基本要求》等执行安全测评和安全防护，可有效提升对提示词注入攻击风险防御能力。进一步优化任务规划与多轮对话管理机制，借助树搜索算法、思维链（CoT）和反思机制（Self-Reflection）优化其任务调度系统，增强上下文跟踪能力和对话一致性保障机制，提升智能体在复杂网络安全任务中的执行能力，此过程也通过暴露更多的推理细节，从而强化智能体决策的“可解释性”。此外，要加强智能体与其他外部系统交互时的安全管控，不能因为便利而牺牲安全，传统的安全防护措施如权限管控、日志审计、身份验证与授权机制等依然可以有效降低智能体权限传导风险，保障企业数据的安全性。最后，引入多智能体协作架构（Multi-Agent Systems）也是重要方向，由多个专能智能体组成虚拟组织，各自承担规划、执行、监控等角色，通过消息传递与任务协商共同完成复杂网络安全任务，例如，在大型企业网络安全防护中，可以配置不同功能的智能体分别负责网络流量监测、漏洞管理、应急响应等工作，协同保障网络安全。

随着人工智能技术的不断创新和突破，智能体将深度嵌入网络安全、数据安全的各个环节，在保障国家关键信息基础设施安全、维护社会网络安全稳定等方面发挥更为重要的作用，成为捍卫数字世界的坚固壁垒。在国家政策大力支持人工智能发展的背景下，网络安全行业应积极拥抱智能体技术，加强技术研发和应用创新，培养相关专业人才，推动智能体在网络安全、数据安全防护中的广泛应用，为我国数字经济的健康发展和网络空间安全提供坚实保障。

来源：《中国网信》2025年第7期