Agentic AI网络安全，2025最大热门，没有之一

2024 年即将过去，很难否认，最大的趋势之一不仅仅是人工智能、GenAI 或 LLMs，而是 "Agentic AI "或人工智能代理。

但是，Agentic AI 到底是什么，为什么这么多人关注它，它与网络安全的交集和影响又是什么？

什么是Agentic AI？

虽然对Agentic AI（代理人工智能）的定义不尽相同，但通常指的是将人工智能用于迭代工作流，在这种工作流中，"代理 "可以自主行动，在有限甚至没有人工干预的情况下实现组织的特定目标。

当然，这与目前最常见的人工智能使用方式有很大不同，后者通常涉及 LLM，以及人类以prompt和prompt engineering的形式与AI进行交互。

Prompt engineering是为人工智能和 LLMs 制作指令或 "提示"，以便根据模型的能力和数据生成特定的输出和见解。然后，通常会使用检索增强生成（RAG）等方法对其进行增强，在这种方法中，LLMs通过访问额外的数据源（如内部知识库、外部知识源甚至开放的互联网）得到增强。

另一方面，Agentic AI系统的工作几乎不需要人类的干预，并处于不断学习、分析、适应和应对环境背景的状态。

Gartner 预测到 2024 年，近 1/3 的所有与 GenAI 服务的交互将"使用执行模型和自主代理完成任务"。

如果您想深入了解人工智能，我推荐您阅读英伟达的博客"What is Agentic AI"?

为什么Agentic AI如此受人关注？

那么，是什么让众多行业领袖、创始人、初创企业、风险投资人（VC）等将 Agentic AI 置于首位呢？

让我们来看看他们的一些观点和动机。

当 OpenAI 放弃其 o1 模型时，它引入了推理能力，即模型在做出反应之前能够停下来思考。这在红杉的一篇博客中被称为 "System 2 Thinking"，我们稍后将对此进行更多讨论。正如他们所指出的，这种第 2 系统思维从基于模型训练数据或丰富数据快速提供输出转变为考虑潜在结果并基于推理做出决策。

红杉资本（Sequoia Capital）的这篇博客是我第一次在本博客中听到一个非常重要的短语，那就是 " Services-as-a-Software服务即软件"，他们正在描述从传统的软件即服务（SaaS）模式过渡到基于服务的代理模式，在这种模式中，代理推理可以将劳动转化为软件。

你最初可能会想，那又怎样？这与我、网络安全或我的工作有什么关系？

下面的部分，你就会看到红杉所描绘的 "那又怎样"，他们显示 SaaS 市场的计量单位是million 、但劳动力/服务市场的计量单位是trillion。这意味着，投资者讨论的总可寻址市场（TAM）是巨大的，远远大于 SaaS，后者已经产生了许多独角兽企业、大量存在、大量并购，并颠覆了传统厂商和市场动态。

如此规模的 TAM 不可避免地会受到广泛关注，而这也正是它所得到的。

事实上，红杉资本（Sequoia Capital）合伙人康斯坦丁-布勒（Konstantine Buhler）本周刚刚接受了彭博科技（Bloomberg Technology）的采访，讨论了 " Why 2025 Will Be the Year of AI Agents为什么2025年将是人工智能代理年"。

不过，对Agentic AI感兴趣的不仅仅是红杉。据报道，私募股权公司 Insight Partners 管理的监管资产超过 800 亿美元，该公司也对这一颠覆性趋势虎视眈眈。

在最近的一篇博客文章《重新想象一切：智能优先设计与下一代技术栈如何解锁人类+AI协作推理Reimagination of everything: How intelligence-first design and the Next Stack will unlock human+AI collaborative reasoning》中，Insight提出了与Sequoia类似的观点，即软件、人工智能和服务/劳动力的交汇点代表了潜在市场总规模（TAM）的巨大扩展，可能高达数十万亿美元。

红杉和 Insight 都对网络安全初创企业和创新企业进行了大量投资，而它们只是众多风险投资和私募股权投资公司中涉足网络安全领域的两家。

其他公司也采取了类似的立场，例如门罗风险投资公司（Menlo Ventures）的投资组合中就有 Abnormal、Bitsight、Obsidian 等网络公司。

门罗风险投资公司（Menlo Ventures）最近发布了《2024 年企业中的生成式人工智能现状》报告，提出了与红杉和 Insight 类似的主张和观点。

报告指出，2024 年最大的突破是 Agentic 架构，从 2023 年占主要架构方法的 0% 到 2024 年的 12%。

在同一份报告中，Menlo 预测 "代理将推动下一波转型"，利用模型和LLM处理复杂的多步骤任务，超越当前的信息生成和人机交互模式。

与红杉、Insight 等公司一样，他们也认为 "高级代理可能会扰乱价值 4000 亿美元的软件市场，并侵蚀价值 10 万亿美元的美国服务经济"。

今年早些时候，我分享了Chenxi Wang的演讲，她不仅是投资公司 Rain Capital 的执行合伙人，还是董事会董事、安全从业人员、领导者和计算机科学博士。

如下是她在 BSidesSF 2024 上发表的题为 "人工智能前沿导航：在不断变化的网络环境中投资人工智能 Navigating the AI Frontier: Investing in AI in the Evolving Cyber Landscape "的演讲，她在演讲中讨论了人工智能在安全领域的应用及其带来的巨大机遇。她表明，全球网络安全支出（>$1000B）的近一半用于专业服务通过人工智能（特别是Agentic AI）实现传统人工网络服务活动和劳动的自动化存在巨大的机遇。

请看下面的片段，她在片段中谈到了这一点：

https://www.youtube.com/watch?v=YQEe_QpmCzM&t=2527s

虽然您可能会想，这只是投资者的问题，但我建议您作为网络安全从业者和领导者退一步，认识到这些投资者在网络安全生态系统中扮演着重要角色，其作用远远超过大多数人的认识。

这些产品、工具、平台和服务是我们用来促进网络安全计划和 "人员、流程和技术 "范式的？

他们为此提供资金。

他们资助创始人创办公司，资助初创企业在新的安全理念、技术等方面进行迭代和创新。

这种资本将我们从传统的内部部署主机带到云原生服务、自动化、微服务、DevSecOps、贯穿 SDLC（从源代码、管道到运行时）的安全工具、漏洞管理等领域。

对Agentic AI感到兴奋的不仅仅是投资者，还有无数其他公司和组织。全球最大的咨询公司之一普华永道刚刚发表了一篇题为" Agentic AI - the new frontier in Gen AI: An executive playbook "的文章（值得一读）。Forbes、NVIDIA 和许多其他网站也提供了有关Agentic AI的类似标题和预测。

Agentic AI不仅对产品有重大影响，而且对服务或网络安全从业人员的实际工作也有重大影响。它对我们将用来更有效地保护组织安全的产品有影响，同时，Agentic AI 也会带来其独特的安全考虑因素，我们的组织在采用这些新技术、产品和工作流程时必须考虑到这些因素。

接下来我们将逐一讨论。

与网络安全的潜在交叉及其影响

是什么让网络安全成为人工智能如此引人注目的领域？

原因有很多。其中包括永无休止的关于网络安全人才队伍和短缺的对话、技能差距、恶意行为者的创新和无情收集、网络犯罪的货币化（高达数十亿美元）以及网络安全的人工和资源密集性质等等。

现在，我们已经从高层次介绍了什么是Agentic AI，以及为什么它对许多人如此重要，让我们来讨论一下它的发展可能会如何与网络安全行业产生交集。

首先，我认为从两个角度来思考人工智能是有帮助的：

利用人工智能改善安全成果
确保人工智能本身的使用

让我们分别讨论一下。

虽然Agentic AI和更广泛的人工智能在协助网络安全方面的潜力巨大，但有几个领域在早期就得到了相当多的关注，其中包括 AppSec、GRC 和 SecOps。

Agentic AI和AppSec

Agentic AI与 AppSec 的交集可以从代理的角度来考虑，代理能够在 AppSec 从业人员生活的世界中采取行动、做出决策并主动去检测和应对与应用程序相关的威胁。

应用程序是数字经济运行中面向客户/消费者的主要数字机制。然而，在过去十年中，AppSec 的世界变得异常复杂。

这是由于云、移动、SaaS、API/微服务和 DevSecOps 等各种趋势，以及 "安全左移 "的推动，即在 SDLC 中提早考虑安全问题，以便在风险到达生产之前将其降低，并将安全集成到 CI/CD 管道等开发人员工作流程中。

当然，挑战是双重的：传统的 AppSec 工具缺乏背景，利用通用漏洞评分系统 (CVSS) 分数等传统方法，使团队陷入嘈杂和劳累之中，导致开发团队的不满和挫败感，影响开发人员和功能的开发速度。未能考虑已知漏洞利用、漏洞利用概率、可及性、补偿控制以及资产和数据敏感性的业务关键性。

其次是漏洞管理本身的性质。由于恶意行为者以应用程序为目标、漏洞研究和发现的增加、报告以及数字攻击面的全面扩大等因素，我们现在的漏洞发生率已经超过了企业的缓解能力。

正如漏洞研究人员 Jerry Gamblin 最近讨论的那样，2024 年即将到来37,000 个常见漏洞和枚举 (CVE)（又称漏洞），这意味着每天将有超过100个漏洞出现，与2023年相比年增长率接近40% 。要想跟上时代的步伐，更不用说取得领先地位，企业就必须在过去 12 个月中提高漏洞管理的效率40% ，而我们都知道这并没有实现，这就是为什么大型复杂企业的漏洞积压量已激增至数十万到数百万个。

Cyentia 等机构已经证明，团队通常每月只能修复 10 个新漏洞中的 1 个，从而导致漏洞攻击面呈指数级增长。

不仅团队被漏洞淹没，导致漏洞积压不断增加，而且我们在修复漏洞的能力、修复时间（MTTR）和恶意行为者将漏洞武器化的能力之间的竞争中败下阵来，如下文厂商 Qualys 所示。

Agentic AI为各种活动提供了机会，例如主动识别应用程序和代码库中的风险，进行动态测试以模拟恶意活动和攻击模式，甚至有可能自主修复已识别的风险和漏洞。

我们还看到自动化 Pen Testing 的兴起，它可以将传统的人工、时间密集型和涉及专业劳动力的 Pen Testing 活动自动化，并以更短的时间间隔重复进行，甚至还可以将测试和发现漏洞的代理与补救发现或将发现进行分流和优先排序以供人工审查的代理连接在一起。

这些当然不是所有 Agentic AI 在 AppSec 中的潜在用例，但考虑到大多数组织目前糟糕的 AppSec 状况，您很快就能发现其中的潜力所在。

Agentic AI和 GRC

在网络安全领域，治理、风险与合规（GRC）是人工智能（Agentic AI）颠覆的另一个成熟领域，我曾撰文并广泛谈论过传统 GRC 的痛苦，以及当软件开发已转向 DevOps/DevSecOps、云、API 和自动化时，GRC 如何仍生活在黑暗时代，而 GRC 仍生活在静态文档、繁琐流程、毫无价值的调查问卷和普遍的手工劳作中。

并不是说 GRC 没有价值，而是在战术意义上开展 GRC 的方式跟不上过去 10 多年来的技术发展和创新浪潮。事实上，在最近的一篇文章中，我认为合规就是安全，而且通常是业务的推动因素。尽管如此，这并不意味着 GRC 的实践不能发展，而Agentic AI可以成为这种发展的关键推动因素。

在最近一期的 GRC 工程播客中，Shruti Gupta 讨论了这一潜力，包括通过人工智能和人工智能代理实现长达数月的人工流程自动化、简化典型的繁琐劳动活动，以及通过 GRC 现代化改善安全成果。

https://www.youtube.com/watch?v=G8znyOWQVHE

我们将继续关注 GRC 领域的发展，包括监管的加强、CISO/组织责任、新的合规框架（尤其是在欧盟市场），以及合规性为初创企业和现有企业打开（或关闭）通往新客户和市场增长的大门。

通过自动化重复性任务、简化冗长的合规文档和审查、合理化重复框架、自动化控制验证、证明以及持续监控和报告来增强 GRC 工作流程的能力，这些只是 Agentic AI 能够并可能对 GRC 产生影响的几个领域。

Agentic AI和 SecOps

安全运营（SecOps）可以说是人工智能和Agentic AI最受关注的领域之一。这是由多种因素造成的，例如 SecOps 的复杂性和永无止境性，包括不同层级的分析师、警报、报告、事件响应、误报，以及在更广泛的网络安全职业领域中这一专业的全天候性质。

它涉及大量数据、警报、通知、手动分析、复杂的工作流程以及跨企业安全系统、日志源、团队等的交互。这一领域通常存在严重的职业倦怠问题，往往是从业人员进入网络安全其他领域前的垫脚石。

Scale Ventures 有一篇题为"AI SOC 分析师 "的精彩文章：LLMs在安全组织中找到了归宿"在这篇文章中，他们介绍了导致 SecOps 面临挑战的各个方面以及人工智能产生影响的潜力。

Agentic AI在 SecOps 中的潜力巨大，包括网络钓鱼、恶意软件、凭证泄露、横向移动、事件响应等。人工智能代理可以创建甚至执行先前策划的事件响应流程和计划，以识别和收集相关工件、丰富传入警报、利用威胁情报、识别受影响系统、隔离/分流受影响系统、修复相关漏洞，并最终报告事件的完整时间线和细节以及采取的补救措施。

Filip Stojkovski 和 Dylan Williams发表了一篇题为"Blueprint for AI Agents in Cybersecurity "的出色文章，阐述了利用人工智能代理发展网络安全实践这可能是什么样子。

从他们的可视化模型中可以看出，可以构建一个模型，其中涉及多个人工智能代理，每个代理都以不同的身份运行，如分流、威胁猎杀和响应，利用 SOC/SIEM 的洞察力和数据，执行从警报分组和丰富到补救和安全控制实施的各种活动，同时不断为威胁情报和检测工程等活动提供反馈。

他们还提出了潜在的代理设计模式，如反射、规划、工具使用和多代理，后者最有可能用于复杂企业环境中涉及多个步骤、活动和结果的工作流，以实现卓越的 SecOps 成果。

人工智能代理的安全问题

虽然Agentic AI在网络安全各领域的潜力令人印象深刻、前景广阔，但也并非没有隐忧。

不言而喻，为捍卫者讨论的所有这些用例也同样适用于恶意行为者，他们可以通过无数种方式改进、优化和最大化其邪恶活动和对组织的影响。

这些新的代理、多代理和自主工作流程将为实施这些流程的组织、它们所接触的数据以及与之交互的系统带来新的风险、漏洞、威胁和注意事项。

OWASP LLM Top 10 等来源特别指出了 LLM06:2025 "过度代理"。

当我们开始幻想自主代理和工作流程的潜力时，我们终究需要退一步，问一问哪些地方会出错，哪些风险值得考虑。

例如，每个代理都可能需要凭证并参与身份验证和授权，以便在数字环境中开展活动。在我之前发表的一篇题为"What Are Non-Human Identities and Why Do They Matter" 的文章中，我讨论了组织如何发现每 1,000 个人类用户就有 10,000 个非人类连接/凭据，甚至是组织中人类身份数量的 10-50 倍。现在，请想象一下由人工智能代理和代理架构支撑的这一场景，凭证与这些不同的代理和凭证泄露的可能性息息相关，而根据 Verizon 数据泄露调查报告 (DBIR) 等资料来源，凭证泄露仍是数据泄露的主要原因。

在我发表的一篇题为 "非人类身份（NHI）安全现状 "的后续文章中，我讨论了云安全联盟（CSA）的一份报告，该报告发现大多数接受调查的组织已经在基本的非人类身份安全实践和处理服务账户、API 密钥、访问令牌和机密等方面陷入困境。

OWASP 的 LLM Top 10 讨论了与过度代理相关的各种风险，例如过度的功能、权限和整体自主性。从历史上看，我们在管理权限、凭证和整体访问控制方面一直做得很糟糕，如果我们计划在企业中释放无数的自主代理，那么我们就有必要问一问：我们是否认为我们会突然在这些基本要素方面做得更好？

也许。

也许人工智能能让我们解决这些长期存在的问题，也许人工智能会加剧网络安全领域已经存在已久的挑战，但同时也会带来大有可为的新机遇，正如我们在 AppSec、GRC 和 SecOps 等领域所讨论的那样。

时间会证明一切，但有一点可以肯定，那就是每个人 似乎都对人工智能（Agentic AI）的潜力感到兴奋，2025 年有望延续这一趋势。

未来将是一个令人兴奋的时代，我渴望继续学习，紧跟这些趋势，看看我们如何拥抱和管理这些令人难以置信的技术，以获取它们所能提供的价值，同时降低它们的风险。

原文链接：

https://www.resilientcyber.io/p/agentic-ais-intersection-with-cybersecurity

关注「安全喵喵站」，后台回复关键词【报告】，即可获取网安行业研究报告精彩内容合集：

《网安供应链厂商成分分析及国产化替代指南》，《网安新兴赛道厂商速查指南》，《2023中国威胁情报订阅市场分析报告》，《网安初创天使投资态势报告》，《全球网络安全创业加速器调研报告》，《网安创业生态图》，《網安新興賽道廠商速查指南·港澳版》，《台湾资安市场地图》，《全球网络安全全景图》，《全球独角兽俱乐部行业全景图》，《全球网络安全创业生态图》

话题讨论，内容投稿，报告沟通，商务合作等，请联系喵喵 [email protected]。