以 AI 速度赋能防御

这段时间 ChatGPT 可谓风头无两，微软仿佛波塞冬挥舞三叉戟般掀起一波又一波的狂潮席卷了人机对话、搜索引擎、办公软件等领域，潮头现在终于冲到了网络安全。

谢顿的第一个预言是：虽然毫无征兆，但已存在一万两千年之久的银河帝国即将灭亡。一时间，银河震动，帝国飘摇。人类银河时代最伟大的传奇就此开启。—— 艾萨克·阿西莫夫《银河帝国》

最先出现的是对攻击场景的应用，各种媒体报道也层出不穷，在此就不加赘述了。BlackBerry 此前对 1500 名从业人员的调查也显示，51% 的受访者认为一年内就会出现由 ChatGPT 发起的、成功的网络攻击，71% 的受访者认为国家级黑客组织很有可能已经开始利用 ChatGPT 从事非法活动。

网络安全与 AI

那么“大语言模型（LLM）在网络安全领域中能有什么玩法？”这一话题在安全社区也被广泛讨论，其中一些典型的如下所示：

设计安全调查问卷，帮助快速进行情况调研
生成逼真的钓鱼邮件，可以作为用户安全意识培训的材料
生成应急响应的报告，将事件相关细节列入文档中
解释安全告警，便于分析人员理解
告警优先级排序，使分析人员聚焦值得关注的告警

其实在网络安全领域，人工智能并不陌生。之前垃圾邮件识别、钓鱼/DGA 域名检测、恶意软件检测等很多细分领域都广泛应用了人工智能，而如今大模型为我们展示了另外一条可能的路。

Sophos 的实践

此前在 BSides 上，Sophos 的首席 AI 数据科学家 Younghoo Lee 展示了利用 GPT-3 的力量进行的一些探索：

在 XDR 遥测数据中发现恶意攻击

通过提供数据进行训练，模型可以将“查找所有 admin 用户运行 powershell.exe 的情况”直接翻译成对应的检索语句，这样就屏蔽了用户对检索语句的熟练度要求。

即便是在几百条的小样本情况下，也取得了不错的效果：

垃圾邮件检测

训练数据量小时，GPT-3 的效果明显比其他传统机器学习方法更好。

检测 LOLBins

不仅可以像 Github Copilot 一样，根据人类的表述来编写代码。也可以反过来，根据代码生成人类表述，来帮助分析人员理解通常来说经过混淆且复杂的 LOLBins 命令。

一个示例如下所示：

微软的实践

微软作为业界巨擘，也亲自下场示范安全技术与人工智能结合应该怎么做。这也是本文的标题来源，微软对 Microsoft Security Copilot 的描述就叫：“以 AI 速度赋能防御”。

关于 Microsoft Security Copilot 的具体功能介绍，各个媒体与公众讨论空间中已经说的够多了，在这里也不再赘述。感兴趣的的读者，也可以自行查看微软官网提供的介绍视频。

微软的野心相当大，不仅要将自身产品打通，还要和第三方伙伴进行合作构建“更智能的防御网络”。

Microsoft Security Copilot 依托微软每天从全球收集的 65 万亿 Signal 来为模型提供支撑。高质量数据现在有多重要，想必不用多说了。喂给模型垃圾，模型也就只能吐出来垃圾。在图像领域 AI 风起云涌之时，可以由普通人众包对大量的图片进行标注。但对于特定行业的数据来说，数据的来源是一方面，能够进行高质量的标定也是另一方面。

功不唐捐，微软也是一步一步走过来的，这条路不是一蹴而就，微软这样的巨人也是下了苦功夫的。例如 2018 年的微软全球情报图：

到了 2019 年则变成另一番样子，加强数据收集可能是个开始，之后微软一步一个脚印的走到了今天。

不仅如此，微软将“传统”的人工智能应用在网络安全中，也做出了不少代表性工作，感兴趣的可以检索。这些其实都是今天 Microsoft Security Copilot 能够惊艳亮相的基石，也许做难且正确的事情会比“弯道”更快。

最后说两句

最后想聊聊大家都表示担心的问题，那就是我们会不会被 AI 取代？起码就笔者自己目前有限的认知来看，在有限时间的未来，人工智能不太可能取代网络安全专业人员，但不专业的人员也许会很危险。倒不是因为眼前的这项技术会取代人员，而是在短期内依赖高效的工具获得的进步其实并不是人自身的进步，人一旦停下来固步自封，在下一次科技变革时就可能更加被动、更可能会被淘汰。

相比恐惧奇点临近，浪潮中的我们更要积极拥抱新的技术。IDA Pro 也好人工智能也罢，技术终究只是工具，人才是一切的核心。只不过当技术被专业人员变成有力的辅助工具时，专业人员与不专业人员间实际的差距可能会更快速地拉大。也希望国内的各个玩家，早日探索出类似的路，在下一次技术变革时也许就是天时地利人和的“你”在引领这个时代。

拓展阅读

https://news.sophos.com/en-us/2023/03/16/gpt-for-you-and-me-applying-ai-language-processing-to-cyber-defenses/https://www.elastic.co/cn/security-labs/exploring-applications-of-chatgpt-to-improve-detection-response-and-understandinghttps://www.upguard.com/blog/using-chatgpt-to-improve-cybersecurity-posturehttps://www.forbes.com/sites/forbestechcouncil/2023/03/09/four-ways-chatgpt-is-changing-cybersecurity/https://blogs.blackberry.com/en/2023/03/the-growing-influence-of-chatgpt