此篇文章发布距今已超过22天，您需要注意文章的内容或图片是否可用！
（本文为国外技术文章编译，加上译者个人观点；英文原文点击原文获取）自2022年11月以来，ChatGPT、Bard等生成式AI应用程序在全球范围内得到了广泛应用，掀起了一股热潮。这些人工智能应用程序通过分析大量数据来制定决策、建立逻辑，并提供合适的答案，如绘画、发送邮件、写诗等，效果令人印象深刻。然而，AI快速被广泛应用，也引发了人们对其滥用和误用可能产生的恶劣影响的担忧。特别是在工控领域，人工智能的引入立即带来了许多问题，包括如何评估其潜在影响、如何进行测试，以及如何安全有效地使用人工智能。在工控领域，稳定性和一致性是核心。我们的目标是确保在任何情况下相同的输入和输出，从而可以预测任何操作的结果。一旦发生不可预测的情况，相关操作人员必须随时准备进行紧急处理，迅速做出可能的后果决策。尤其在关键基础设施环境中，这一特征尤为突出。与IT领域可能仅造成数据丢失的意外后果相比，工控领域的后果可能更为严重。例如，炼油厂发生火灾可能会造成人员伤亡、环境破坏、重大责任问题和长期品牌损害。这就强调了在危机时刻做出快速准确决策的重要性。归根结底，这就是为什么不能仅依靠AI进行关键操作的原因，因为错误的后果可能是灾难性的，而无法完全预测的AI系统在关键操作时无法像电路系统一样稳定。此外，AI造成的破坏后的责任界定也是一个棘手的问题。微软提出了一个人工智能公共治理蓝图，以NIST最近推出的人工智能风险管理框架为基础，通过公共政策、法律和法规来解决当前和新出现的问题。该蓝图呼吁建立由政府主导的人工智能安全框架，并为控制关键基础设施的人工智能系统设置安全制动器。标准化是工业实践的第一步，未进行标准化的AI在工业实践中更多的场景是在实验室中，而非成为系统应用的一部分。数字孪生概念是指现实环境的深度数字化。在工控语境下，数字孪生和AI的概念自然而然地结合在一起。许多先进的组织已经建立了其生产环境的数字副本，例如炼油厂或发电厂的数字化仿真环境。这些复制品基于公司的综合数据集构建，以匹配其环境。在受控和封闭的隔离数字孪生环境中，为人工智能对不同技术进行压力测试或优化提供了完美的条件。完全可控、可回溯的虚拟化环境提供了极大的便利。例如，尝试新系统或安装不同尺寸的管道。数字孪生可以让操作员在生产操作中实施技术之前对其进行测试和验证。使用人工智能，工程师可以利用自身的环境和信息来无数次寻找提高产量或尽量减少所需停机时间的方法。然而，在现实世界的生产环境中，将虚拟环境下的计算模型直接套用到生产环境中有极大的风险。目前，在将这些变化应用到现实世界之前，在数字孪生中进行的测试数据需要达到什么量级，还有待观察。如果测试结果不完全准确，负面影响可能包括停电、严重的环境影响甚至更糟糕的结果。因此，人工智能技术在工控领域的采用可能会缓慢而谨慎。目前，AI在IT领域得到了广泛的应用。这种应用也可能对运营技术（OT）产生影响，因为OT和IT这两个领域正日益紧密地融合在一起。然而，IT领域的事件可能会对OT造成影响，正如勒索软件造成的工业停摆。所以，并不算稳定的AI在IT中的增加使用可能会产生对OT环境的未知风险。因此，针对于风险控制的AI专项研究是必须的，同时需要在工业仿真环境下，进行全备的测试。最后，工控系统需要的AI系统，是基于内部数据的封闭本地化AI系统，最终的AI在工业领域的落地也必然是在一个内网环境下，从而兼顾敏感数据、人员、以及系统的安全。这几点需求在当下看似都是难以落地的。虽然我们可以预见到，AI可以在不远的将来极大地提升系统的稳定性、效率、安全性。但是现在无法看到一个在保证系统可用性前提下的可落地的通用解决方案。在我们真正在工控环境中加入AI之前，最好扪心自问：AI的加入是否会增加生产环境上产生重大损失的风险。正如文章所说，AI在工控OT领域的应用是一把双刃剑，既有巨大的潜力也存在严重的风险。在没有可行的通用解决方案之前，谨慎的态度和综合评估是至关重要的。虽然标准化和虚拟化环境为AI的安全实施提供了一定的保障，但未来仍需更深入的探索和创新以确保系统的可用性和安全性。
因此笔者认为，AI在工控OT领域的应用在当前时间阶段中还是以观望为主，探索和创新为辅。毕竟对于工控领域来说，安全，稳定和可控的风险管理应始终优先于效率，因此现在谈AI在该领域的落地未免还为时尚早。
信息安全爱好者与从业者，先后担任过数据安全、安全合规等岗位，现在是一名活跃的渗透测试工程师，偶尔参与众测。
个人热衷于探索网络安全、合规标准、渗透技术以及商业战略领域。持有众多认证，目标是不停歇的学习新的知识和技能。
推荐站内搜索：最好用的开发软件、免费开源系统、渗透测试工具云盘下载、最新渗透测试资料、最新黑客工具下载……
https://ZhouSa.com
还没有评论，来说两句吧...