人工智能赋能工业网络安全：前景美好但现实残酷！

Takepoint Research的最新数据显示，在快速发展的网络安全领域，80%的受访者认为人工智能在工业网络安全中的好处大于其风险。人工智能在威胁检测（64%）、网络监控（52%）和漏洞管理（48%）方面尤其有效，表明其在增强OT（运营技术）环境中的防御方面发挥着越来越重要的作用。调查发现，对人工智能的过度依赖、人工智能系统操纵和误报是工业资产所有者的主要担忧。该报告于2024年中期对全球284名OT网络安全专业人士进行了调查，以了解AI在OT网络安全环境中的作用。报告分享了对AI的优势、挑战和担忧的见解，阐明了行业的看法和经验。该调查由TakepointResearch首席分析师Jonathon Gordon牵头，调查显示62%的受访者正在使用或计划在OT网络安全中使用人工智能，凸显了人工智能日益增长的重要性。然而，一些组织对人工智能的使用有限，凸显了全面采用人工智能的潜在障碍，例如资源限制、缺乏专业知识或对人工智能能力的怀疑。一些组织没有人工智能计划，这表明存在疑虑或限制。尽管人们的兴趣日益浓厚，但要更广泛地采用人工智能，还需要解决投资回报率清晰度、道德问题和切实利益等挑战。

新兴威胁下工业网络安全中人工智能的崛起

调查结果显示，46%的近期采用者对工业网络安全表现出浓厚兴趣并迅速实施人工智能，这得益于复杂的威胁、降低的人工智能成本和经过验证的有效性。然而，很少有人拥有超过三年的经验，这表明这是一个不断发展的领域。早期组织正在整合人工智能，这凸显了热情，但也需要学习和适应。随着经验的增长，策略将朝着成熟的人工智能部署方向完善。

来源：Takepoint Research调查报告：人工智能融合及其在工业网络安全中的前景

目前，人们对人工智能抱有乐观态度；然而，Takepoint分析师表示，人们一直担心人类过度依赖人工智能系统以及人工智能如何操纵系统。使用人工智能进行的潜在攻击表明，在人工智能的新时代，需要更新全面的数据治理和事件响应策略。因此，重要的是要平衡人工智能系统的好处和风险，以确保实现良好、强大的网络安全框架。

人工智能将通过实现先进的威胁检测和响应能力，为网络安全领域带来重大变化。然而，只有克服数据质量问题、克服伴随数据使用的道德问题，以及人工智能应用的人为监督，人工智能的实施才算成功。因此，在如何使用人工智能的问题上采取平衡的方法将有助于最大限度地提高效益并降低风险。

工业网络安全中使用人工智能的好处

来源：Takepoint Research调查报告：人工智能融合及其在工业网络安全中的前景

Takepoint Research的调查数据显示，人工智能通过提高威胁检测率（60%）和运营效率（51%）来增强工业网络安全，但20%的组织认为其收益有限，这表明部署存在挑战。这凸显了战略性采用人工智能、熟练管理和集成规划的必要性，以最大限度地发挥人工智能的效力。

报告中另一个有趣的亮点是，80%的受访者对人工智能在网络安全中的作用表示乐观，称其具有改善威胁检测和效率等好处。然而，20%的受访者表示怀疑，因为他们担心人工智能的风险和道德问题，例如过度依赖和操纵。组织必须在人工智能的好处与保障措施、透明度和道德措施之间取得平衡，以促进信任和有效整合。

数据质量和隐私问题

Takepoint研究人员透露，58%的工业组织确保AI的数据质量，而42%的组织没有这样做，这对AI的可靠性构成了风险。确保AI接受准确数据的训练对于有效性至关重要，尤其是在网络安全方面。组织必须采用强大的数据管理实践，如验证和监控，以保持数据完整性。

报告称，84%的受访者对数据隐私的担忧强调了在人工智能驱动的网络安全中需要强有力的数据治理。组织必须在人工智能的数据使用与保护敏感信息之间取得平衡，尤其是在监管日益严格的背景下。通过安全的数据处理、监管合规性和透明度优先考虑隐私和数据保护对于培养对人工智能应用的信任至关重要。

来源：Takepoint Research调查报告：人工智能融合及其在工业网络安全中的前景

Takepoint Research还发现，有人工监督的组织（56%）和没有人工监督的组织（44%）之间存在巨大差距，这凸显了改进的迫切需求。人工监督可确保AI决策准确、合乎道德且适当，从而减轻AI偏见和错误。如果没有人工监督，组织可能会过度依赖AI，从而导致决策失误。这一差距强调需要加强监督，以平衡AI和人类判断，从而做出明智的决策。

人工智能伦理应对问题

虽然大多数组织都承认网络安全中的人工智能道德准则，但Takepoint Research报告中超过40%的组织指出缺乏这些框架，凸显了一个关键的差距。这种缺失表明需要优先考虑负责任的人工智能实践，以确保公平、透明和符合社会价值观。如果没有道德准则，组织就有可能面临歧视性的结果、失去信任和合规问题。

制定这些指导方针对于解决数据隐私、算法偏见和自动化的道德影响至关重要，从而确保透明度、问责制和对个人权利的尊重。

实施人工智能实现网络安全面临的挑战

调查发现，面临的关键挑战包括与现有系统的集成（68%）、数据质量问题（56%）和缺乏熟练的人员（40%）。成功部署人工智能需要战略规划、技术专长和强大的数据完整性。将人工智能集成到现有系统中通常需要重新考虑基础设施，而数据质量问题则凸显了安全数据实践的必要性。

此外，报告指出，行业技能差距需要投资培训，因为高成本和法规合规性带来了重大挑战。为了充分利用人工智能在网络安全方面的潜力，组织必须通过战略规划、技能开发以及遵守数据和监管标准来解决这些障碍。面对这些问题，可以更有效地整合人工智能，更好地防范威胁。

来源：TakepointResearch调查报告：人工智能融合及其在工业网络安全中的前景

工业网络安全中使用人工智能的担忧

TakepointResearch披露，尽管人工智能在网络安全中具有重要价值，但过度依赖人工智能(68%)和潜在的操纵(52%)引发了担忧。组织仍然对过度委托人工智能控制权持谨慎态度，强调需要进行人工监督。关键问题包括误报、数据隐私、威胁检测准确性以及对可解释人工智能的需求。

来源：TakepointResearch调查报告：人工智能融合及其在工业网络安全中的前景

解决这些问题可确保AI的有效集成，这需要强大的安全措施、隐私法规合规性和透明的AI模型。通过关注这些问题，组织可以充分利用AI的优势并降低风险。

该报告还提出了对基于人工智能的安全解决方案的准确性和可靠性的信心程度问题。受访者表示，大多数组织（68%）对基于人工智能的安全有一定信心，但许多组织仍持中立或不确定态度。只有28%的人非常有信心，这凸显了人工智能需要证明其准确性和可靠性。

此外，工业界也持谨慎乐观的态度，他们既认识到人工智能的潜力，也认识到它的局限性。不同的经验表明，人工智能必须在威胁检测和决策方面始终表现出可靠性。提高数据完整性、遗留系统集成和可解释性可以增强人们对人工智能系统的信任。

人工智能在工业网络安全的未来前景

TakepointResearch报告称，预测分析(72%)和威胁检测(60%)引领人工智能应用，凸显了主动安全的需求。行业寻求人工智能来预见和应对威胁，强调预测性网络安全。安全自动化(36%)和用户行为分析(52%)指向更智能、自适应的系统。显然，组织正在利用人工智能实现自动化，以简化安全程序并提高效率。

来源：TakepointResearch调查报告：人工智能融合及其在工业网络安全中的前景

此外，使用人工智能来检查用户行为表明人们越来越重视识别传统方法可能遗漏的复杂威胁，特别关注内部威胁，无论是故意的还是意外的。

数据还显示，80%的受访者计划在工业网络安全领域加强人工智能的使用，这表明他们对人工智能的作用持乐观态度。这一趋势表明人工智能具有增强安全性和应对新兴威胁的潜力。然而，20%的人不确定是否要增加人工智能的使用，这凸显了需要更明确的证据来证明其有效性。展示诸如改进威胁检测和成本效益等好处对于鼓励更广泛采用至关重要。

鉴于巨大的差距，业界必须理想地解决问题并展示成功的实施方案，以将不确定性转向自信的人工智能整合，从而制定更强大的网络安全战略。

主要结论

TakepointResearch调查报告显示，人们越来越认识到人工智能在工业网络安全方面的变革潜力。组织越来越多地采用人工智能进行威胁检测、网络监控和预测分析，凸显了对其安全优势的乐观态度。

然而，数据质量、系统集成和道德问题等挑战削弱了这种热情。人们对与人工智能相关的威胁有了深刻认识，包括人工智能驱动的攻击和对强大数据治理的需求。尽管人工智能集成趋势明显，但组织必须提高准备程度，更新针对人工智能特定问题的事件响应计划并确保人工监督。

平衡人工智能的优势与风险对于建立弹性网络安全框架至关重要。人工智能正在通过增强威胁检测和响应来重塑格局，但需要关注数据质量、道德和监督。平衡的方法对于最大限度地发挥人工智能的优势并降低其风险对于建立安全的网络安全框架至关重要。

关于Takepoint Research

Takepoint Research公司成立于2016年，总部位于美国洛杉矶，是一家独家分析师公司，专注于为工业企业和他们的网络防御者提供细致的研究和可行的洞察。公司坚定的承诺在于提供明确、战略性的咨询，这些咨询量身定制以满足特定需求，同时坚决避免偏见和无关干扰。公司的核心使命是提供清晰和战略视野，呈现全面的当前和未来行业展望、关键参与者、监管重点、关键技术、解决方案、服务和行业最佳实践。Takepoint Research的专业分析师团队由工业网络安全专业人士和资深人士组成，优先考虑关键基础设施和制造业组织的安全、弹性和生产力。该公司受到全球工业企业的信任，作为创造更安全、更工业未来的指南。

参考资源

1、https://industrialcyber.co/ai/takepoint-research-80-of-cybersecurity-professionals-favor-ai-benefits-over-evolving-risks/

2、https://takepoint.co/product/ai-integration-and-its-outlook-in-industrial-cybersecurity-industry-survey-report/

注：点赞关注，后台联系获取调研报告原方和中文机译版。