英国人工智能网络安全研究与指导

公众号回复行业群

算力算网

人工智能

（大模型、AIGC、ChatGPT、Sora；机器学习、深度学习、联邦学习）

星球当前文件数：1480+

↓

人工智能(AI)技术的突破性创新促进了跨不同领域的各种复杂任务的自动化。这些进步可以显著促进应用程序或系统的开发，用于交通和医疗保健等琐碎到高度关键的领域，从而使最终用户受益。然而，不加区别地使用人工智能，而没有适当考虑将人工智能模型释放到野外的影响，为恶意行为者利用漏洞并获得显着优势创造了异常机会。

本报告的目的有两个。首先，收集工业界和学术界发表的关于人工智能安全和隐私的现有研究其次，报告可能支持AI开发人员和工程师设计安全AI模型和系统的出版物。这包括学术界、政府、行业(特别是人工智能公司）和技术权威的出版物。本研究还旨在确定参与AI安全领域的主要参与者和利益相关者。因此，我们的目标是提供一个全面的审查，包括人工智能安全的最新进展，并找出其实际应用中的差距。

这项研究的主要结果如下：

共发现415份关于人工智能网络安全的文件，其中包括323份学术论文，31份行业报告和白皮书，41份标准组织文件和20份政府文件。

研究重点是两个主题：“攻击”，包括风险、漏洞和威胁建模；“防御”，包括技术解决方案、建议和指导。

在学术场合的方法通常是通过在实验室环境中使用不切实际的威胁模型进行实验来定量验证的，而其余的研究人员的研究大多基于非经验分析。

大多数研究和指导都集中在安全人工智能解决方案的设计上，而人工智能模型的开发、部署和监控则少。