大模型竟然可以帮助我们预言安全风险？

Whyte表示，美国国际战略研究中心（CSIS）的研究让人不禁反思：在未来的几年里，美国的国防规划架构是否应当被更加卓越的方案所取代？而这份研究揭示了一个关键点：大型语言模型（LLM）的有效分析，其精髓不在于机器本身，而在于与机器互动的人类。

当我们向大型语言模型提出问题时，它们并不能理解问题背后的真正含义，因此，它们更多提供的是简单的模仿，而非真正的洞察力。Whyte指出，如果网络安全的核心难题在于“当下只能预示出部分未来的安全风险”，那么一个依赖历史数据来预测未来模式的工具，又怎能如营销宣传中所描绘的那样，成为引领行业变革的利器呢？

尽管大型语言模型在行业和研究环境中的预测应用尚不广泛，但近期一项研究却为许多对此感兴趣的人提供了宝贵的洞见，这部分人大多希望能利用人工智能来解决网络安全在未来的不确定性问题。Whyte介绍：“这项研究指出，为了获得准确的结果，数据集必须经过精心的挑选和定制，以适应多个既独立又相互关联的领域。同时，还需要制定明确的程序来发现关键问题，并部署查询流程。此外，与模型的迭代和递归交互也是至关重要的，它能帮助我们从底层数据中清晰地识别出有用的模式，并消除特异性输出的干扰。”

另一方面，Whyte介绍，《统一指挥计划》是无数部门、决策者、服务组成部分，以及亚文化群体利益在协商后的结晶，这些元素交织在一起，塑造出一种既易产生个性特征又难以进行根本性变革的特质。

例如，当我们思考计算机应急响应团队或企业安全部门的职能时，是否应该根据地理、行业、具体问题或其他因素，将安全任务功能化、模块化？Whyte对此表示，不论答案如何，我们今天所青睐的模式在二十年后或许已不再适用。看看冷战结束或9/11事件后全球安全架构所经历的变革，这一点便不言而喻。

Whyte说，CSIS研究的创作者们为了达到他们的研究目的，精心构建了一系列针对检索增强生成优化的数据集。这一步骤的核心在于调整大型语言模型对检索信息的权重分配，从而有效地提升模型提供定制化、专业级输出的能力。在此过程中，他们采纳了多种参数来界定和区分各个数据集。

接着，研究者们对所采用的大型语言模型进行了细致查询，采取了一种既审慎又精心策划的策略：在提取更为精确的预测之前，先稳固知识根基。他们首先要求模型对《统一指挥计划》的常见批评进行总结和特征描述。

随后，研究者指示人工智能以这些判断为基准，探索改革和重塑《统一指挥计划》的各种备选方案。在这个过程中，模型会被引导去使用那些经过精心整理的数据集，这些数据集代表了“驱动五角大楼分析工作”的知识类别，例如预算数据或关键对手的战略文献。

Whyte表示，在每次迭代中，研究者们都会提示大型语言模型探讨那些通常能驱动国家安全领域讨论的关键观点，这些观点涵盖了从威慑理论到社会建构主义，再到军事历史的宏大叙事。“最终，研究者们以多种不同的形式呈现了模型的输出结果，以便决策者能够轻松理解，这些形式包括传统的报告以及利用Midjourney生成的AI可视化图表。”

Whyte说，在诸多层面，大型语言模型（LLMs）的应用，正如此次研究及其他近期研究所述，可以被视为情景规划领域一次人工智能的融合创新。尽管传统的预测方法已存在，但LLMs在提升风险预测效率及预见未来功能需求方面的优势显而易见，且能迅速提供反馈。“精心整理底层数据集，可以真实反映专家意见，这既能降低组建分析团队的成本，又能通过调整数据集来探索（并消除）潜在的偏见。”

此外，对迭代输出的细致分析，能够确保人类直觉以一种真正可复制的方式影响结果。同时，为决策者在不同媒介中提供多样化的发现，可以更容易地传达出病理性思维的威胁。

Whyte介绍，在使用大型语言模型进行定制化预测时，针对单一公司或相关组织联合体的独特经验，最关键的一步或许是整理多个数据集，这些数据集代表CISO了希望利用的不同方面的知识库。通过检索增强生成技术，可以优化大型语言模型，使其能够与人类研究人员进行互动，从而生真正的见解。

对于网络安全团队而言，《统一指挥计划》研究又带来了哪些启示呢？Whyte说，该研究整合了六种思想体系及广泛信息，形成了六个独立的数据集，具体涵盖了：

1、《统一指挥计划》发展进程的本质与历史脉络；

2、特定对手（如中国）的军事战略与理论框架；

3、威慑理论的核心观点；

4、预算、资源与净评估的全面分析；

5、作战艺术与实战经验的深度总结；

6、国际关系功能的学术理论探讨；

这些数据集反映了专家们所认同的、构成《统一指挥计划》分析基础的核心思维与信息。尤为重要的是，这些数据集之间互不重叠。

为确保在覆盖相关观点（如理论视角或对手战略的竞争性评估）时保持平衡，每个数据集都会经历多轮审查。Whyte说：“简而言之，人类专家输入的不可或缺性显而易见。在开发数据集时，必须致力于避免在多个方面出现偏见。”

在网络安全领域，数据集的运用或许会采取一种类似的策略。当然，这需要根据公司具体的需求来明确划分界限。Whyte对此表示：“然而，对于那些希望在网络安全工作中，为AI应用奠定基础的网络安全专家而言，一些基本的指导原则显得尤为重要。”

首要的是，为了使大型语言模型（LLMs）得到优化，它们必须吸收包含公司运营标准和历史实践在内的基线信息。这些信息不仅要涵盖那些致力于规划未来的公司，还应包括其他组织的数据。

其次，LLMs需要接触涵盖网络安全全球实践中监管、法律和规范标准发展的数据。这意味着，对于任何寻求优化其模型的公司来说，都需要构建两个独立的数据集：一个紧密围绕公司的行业特征（例如商业零售或银行服务）；另一个则专注于全球网络治理问题的法律、学术和其他专业文献。

再者，Whyte强调，LLMs需要威胁数据，这些数据可以根据两个不同来源的文档集进行定制。

此外，LLMs还需要了解网络安全业务在现实中的相关数据，包括最新的技术描述和有效部署所需资源的备忘录以及净评估等。同时，未来的此类评估也应纳入这一范畴。

最后，Whyte指出，当LLMs被问及数字化未来是否安全时，它们需要在网络技术作为变革力量的社会影响方面进行一定程度的跨领域优化。20世纪90年代的预测者很少能预见到2000年代的社交媒体转型，这一转型也直接导致了当下的恶意攻击和虚假信息传播。然而，关于技术与心理学、公众意见和社会学问题交汇点的专业知识可以为原本刻板的操作分析增添必要的背景信息。

随着时间的推移，根据安全规划者通过提问所增添的更多细节和具体性，数据集是可以被不断整理和完善的。然而，这一基础性的优化体系，正是规划者在利用大型语言模型（LLMs）进行未来预测时，能够迈出下一步的关键所在。

Whyte表示，在构建好了“可供LLMs权衡与参考的描述性知识库”之后，规划者必须以综合为首要目标的预期来与模型进行交互，他们应向模型发出查询，以探寻相关数据的趋势走向。此处的核心在于发现新知。循环中的参与者必须设定与自身预期相契合的合理基线，进而利用这些基线，让LLMs得以在“创造性”的模式分析中大展身手。

在大型语言模型（LLMs）被全面优化之后，它们可用于进行预测及相关的分析工作。同样重要的是迭代过程，但此阶段的不同之处在于，重点应放在决策者身上。决策者需要理解的关键问题应聚焦于网络安全的功能、转型，以及相关的外部因素，且这些问题须以决策者能够领会的方式呈现。

《统一指挥计划》研究的关键启示在于，LLMs的输出需要被细致拆解和分析，以便揭示其中的共识与分歧。这样的过程让规划者能够对影响某些假设形态的决定性变量进行自主评估，并与影响其他假设的变量加以区分。

Whyte认为，借助这些深度洞察，规划者能在向决策者汇报时，不再局限于简单陈述几个AI模型的输出结果，而是直接将分析融入汇报中。换言之，重要的是LLMs如何各自独立得出令人瞩目的结论，这一跨比较分析的价值，要超过所生成的场景或建议本身。

在探索如何高效运用LLMs进行网络安全规划的过程中，一个核心观念逐渐清晰：规划人员与高层管理者需警惕“AI主导CISO”的现象。简而言之，该现象指的是组织在运用AI技术时，未能充分将人类融入决策流程，这同时包括了伦理、方法论和技术实践等根本性话题。

Whyte指出，这很容易导致AI系统成为决策的主导者，尽管并非科幻电影中的“天网”或“哈尔9000”。“近期这项研究及其他类似研究，均提出了实现高效运用的初步最佳实践指南。它们强调，要充分发挥LLMs在预测与分析方面的优势，就必须在部署的各个阶段都确保人类的参与。而更为重要的是，它们还指出，这种参与应全面涵盖人类的专业能力，包括专业知识、调查技巧以及市场洞察力等，以最大限度地发挥机器的作用。”