行业 | 破解大模型安全难题，360推出大模型安全能力框架

数字化浪潮中，大模型作为新质生产力的代表成为新一轮工业革命的核心引擎。然而，随之而来的安全挑战也日益凸显，急需有效的大模型安全防护实践总结、体系化的安全框架、解决方案以及能力支撑。

在3月20日举办的360安全大模型3.0发布会上，360数字安全集团发布大语言模型安全防护方案，展示了360在该领域的最佳实践、理论创新、系统化框架方案和核心能力成果。

大模型的全新特性带来了前所未有的安全挑战，既存在传统上的网络与数据安全，又新出现了内容可信、模型失控和和合规向善等多方面的安全挑战。“这些安全挑战，只有传统的网络安全与部分数据安全问题可以用传统的安全方法解决，其它以语料和内容为核心的安全问题都源于大模型自身特性。因此，不做大模型的传统安全企业，无法深刻洞察大模型自身安全特性所带来的内容安全问题，也就无法构建大模型原生安全能力。”360数字安全集团副总裁李博表示。

据介绍，解决大模型问题首先需要顶层逻辑与方法论。360提出了大模型的安全四原则：可靠、可信、向善、可控，旨在从顶层设计上全面保障大模型的安全。为了实现这些原则，360又进一步提出了一套核心战法，包括建立“网络与数据安全与大模型自身安全”的双轮驱动体系，坚持以内容安全为核心，在大模型内部内置原生安全机制，采用“小模型”的技术思路保障大模型安全的技术路线，同时构建大模型安全实战对抗评估体系对打模型安全实战能力进行评估，并进一步构建以服务运营为核心的大模型安全持续治理体系等。

大模型安全战法的落地需要足够的硬核安全能力支撑。据了解，360基于大模型领域的实践，提出了大模型安全能力体系框架（AISF框架）。这个框架将大模型安全能力分为两部分，一是传统网络与数据安全能力，二是需要嵌入到大模型内部，以解决大模型内容可信、合规向善为目标的大模型原生安全能力。

为了将360大模型安全的核心能力输出给千行百业，360提出了“双轮驱动”的大模型安全解决方案框架。在框架中，一方面，利用360安全云围绕“数据、探针、平台、专家、AI”这五个核心要素，在网络与数据安全层面对打模型进行全面防护；另一方面，通过“360大模型原生安全能力增强包”解决大模型在内容可信、合规向善、模型可控上存在的安全问题，并利用360独有的大模型安全评估系统，对大模型的安全能力进行实战评估。

“双轮驱动”的360大模型安全解决方案

据悉，这套360大模型安全解决方案可以平移、复制给有需求的行业客户与合作伙伴和，并以标准化的能力产品方式对其他大模型企业进行安全赋能，确保360的大模型安全成果与积累发挥最大价值。

据介绍，360大模型已在多个行业中实现了落地应用，在与某金融机构合作中，360利用私有大模型为其部署了多套AI生产力工具，从企业入职培训、合规文档编写、电销意向判断，到催收分案、系统告警提示等，同时在大模型内部集成了360大模型安全解决方案，在帮助该企业降本增效的同时，确保了大模型的安全。