数据安全

随着这种新威胁的迅速出现，防御者必须学习如何发现数据中毒攻击以及如何预防它们。否则，将根据错误数据做出业务和网络安全决策。

什么是数据中毒？

当攻击者篡改用于训练 AI 模型的数据时，实际上会“中毒”。因为人工智能依赖于这些数据来学习如何做出准确的预测，所以算法生成的预测将是不正确的。

威胁行为者现在正在以可用于网络攻击的方式处理数据。例如，他们可以通过更改推荐引擎的数据来做很多事情。从那里，他们可以让某人下载恶意软件应用程序或单击受感染的链接。

数据中毒是如此危险，因为它使用人工智能来对付我们。我们越来越相信人工智能对我们个人生活和工作的许多方面的预测。从帮助我们选择要观看的电影到告诉我们哪些客户可能会取消他们的服务，它无所不能。

数据中毒和网络安全工具

威胁行为者也在使用数据中毒来渗透防御者用来发现威胁的工具。首先，他们可以更改数据或添加数据以生成不正确的分类。此外，攻击者还利用数据中毒来生成后门。

在主题演讲中，Ullrich 表示，解决方案首先要全面了解 AI 网络安全工具使用的模型。如果您不了解是什么保护了您的数据，则很难判断这些技术和工具是否准确。

识别数据中毒攻击

发现数据中毒攻击具有挑战性且耗时。所以，受害者往往发现，当他们发现问题时，损害已经很大了。

在 RSA 会议“规避、中毒、提取和推理：防御和评估的工具”期间，IBM 研究院的 Abigail Goldsteen 建议网络安全专业人士使用Adversarial Robustness 360 Toolbox (ART)来识别、阻止和预防数据中毒攻击。这个开源工具包可以让开发者快速创建、分析和攻击，然后快速为机器学习模型选择正确的防御方法。

使用我们拥有的工具

相反，作为捍卫者不能盲目相信拥有的工具和数据。应更加了解算法的工作原理并定期检查异常数据将有助于我们提前防范攻击。

【原文来源：河南等级保护测评】