尽管网络安全在不断发展，但最重要的新兴威胁与人工智能的迅速传播以及网络犯罪分子采用该技术来促进其行动的速度越来越快有关。

然而，这种趋势并不出人意料：早在 2019 年，Forrester Research 的一份报告就强调，人们越来越担心人工智能可能会扩大攻击的范围、速度和创新，以至于可以绕过传统的防御方法。

多年以后，这种情况已成为现实，而且随着人工智能的发展及其应用的进步，这个问题变得越来越重要。

网络犯罪分子如何使用人工智能

2024 年，生成式人工智能和大型语言模型( LLM ) 将被网络犯罪分子用来显著提高社会工程攻击的有效性和范围：这是谷歌去年年底发布的“2024 年云网络安全预测”报告中出现的预测之一。

另一方面，进一步的研究发现，网络犯罪分子对生成人工智能的使用导致过去 12 个月全球攻击次数显著增加，这是一个令人担忧的趋势。

网络犯罪可以利用的应用领域有很多：

• 恶意软件创建：尽管 ChatGPT 有特殊的保护措施来防止用户创建恶意代码，但这些措施可以被绕过来创建恶意软件。Forcepoint的一名研究人员展示了这一点，他能够找到漏洞并通过要求 ChatGPT 逐个功能提供恶意代码来创建恶意软件。结果是防御系统无法检测到的可执行文件，其复杂程度与国家恶意软件相当。最令人不安的是，研究人员没有招募专业的网络罪犯，也没有自己编写恶意软件就成功了。最近，芬兰网络安全解决方案公司 WithSecure 证实已检测到 ChatGPT 生成的恶意软件样本，这进一步表明网络罪犯已经在利用合法工具进行恶意操作。

• 传播恶意软件和漏洞：网络犯罪分子可以利用生成人工智能将恶意软件引入并传播到开发者环境中，而开发者环境中通常使用人工智能工具来支持软件创建。这将使漏洞和恶意代码在公司内部快速传播。

• 网络钓鱼和社会工程优化：生成式人工智能可用于将攻击发展到前所未有的速度和复杂程度。例如，在网络钓鱼、语音钓鱼和社会工程的情况下，内容（无论是文本还是音频和视频，如深度伪造）都可以变得越来越逼真且看似合法。Gen AI 正在提高攻击的复杂性，部分原因是消除了过去使网络钓鱼电子邮件易于检测的错误。此外，这项技术还扩大了网络犯罪分子的攻击范围，他们现在可以使用几乎任何语言（包括最复杂的语言）的正确文本创建网络钓鱼活动。

• 影响物理安全：人工智能在自动驾驶汽车、医疗系统和工业设备中越来越普遍。这导致物理安全风险显著增加：这些系统确实可能被黑客入侵（没有哪个系统是不可入侵的！），最终危及用户的生命。

• 隐私风险：人工智能工具可以收集大量数据，如果泄露，可能会危及用户的隐私。但隐私并不是唯一的问题：滥用这些信息可能会支持用户分析活动，有助于网络犯罪分子发现安全系统中的漏洞或在其恶意操作中利用的弱点。

人工智能如何帮助网络安全

正如我们所见，人工智能为网络犯罪分子提供了显着的优势，但网络安全防御者也可以利用这项技术来开发适应新威胁的更先进的防御措施。

具体来说，人工智能在网络安全方面的主要优势包括：

• 预测模型：从被动应对转变为主动应对，尽早发现新威胁并降低风险；

• 威胁检测：通过增强人工智能和机器学习的防病毒/反恶意软件可以检测异常，保护系统和端点设备；

• 网络钓鱼检测：通过特殊的电子邮件过滤器，利用人工智能功能，分析收到的邮件以标记和阻止垃圾邮件和网络钓鱼；

• 机器人识别：通过可分析网络流量的机器学习模型来识别和阻止恶意机器人；

• 网络保护：人工智能可以分析系统日志以检测未经授权的访问和其他可疑模式，从而防止违规行为；

• 加强访问控制：通过人工智能增强的控制工具可以阻止可疑访问；

• 减轻内部威胁：通过识别用户的危险行为并防止敏感信息的泄露；

• 事件响应：人工智能可以全天候运行，通过减少事件响应时间来主动应对威胁；

• 效率和 IT 成本节省：通过自动化安全任务，AI 可以提高运营效率并降低成本。

各种规模和类型的公司都已开始利用人工智能来加强其网络安全战略，例如银行和政府使用的身份管理系统，或金融和房地产行业中可以及早发现异常的反欺诈系统。在这些领域以及许多其他领域，人工智能不仅可以提高应对网络威胁的准确性和响应速度，还可以节省成本。

结论

人工智能虽然增强了网络犯罪分子的能力，带来了新的挑战，但它也为加强网络安全提供了强有力的工具。

网络安全的未来将取决于如何有效地利用人工智能来管理当前风险，以及预测和减轻未来风险，并充分利用所有优势。通过采用人工智能驱动的解决方案，组织实际上可以增强防御能力、提高效率并在持续对抗网络威胁的战斗中保持领先地位。

保持网络安全！