大模型安全新视界：360集团应用安全和基础安全建设实践

6 月 28-29 日，由 msup 主办的 A2M 峰会在上海明捷万丽酒店圆满落幕。本届大会以探索大模型的无限可能为主题，重点关注大模型、AIGC 等热点话题和相关落地实践，也深度涉及数据科学和互联网架构的关键领域。 

本届大会开幕式致力于从更多专业维度、热点与趋势的角度，帮助更多 AI 从业者了解 2024 年的技术方向及未来趋势，为 AI 从业者带来思考和启发。

360 信息安全中心 - 应用安全专家吴乾豪参与本届峰会并以“大模型安全新视界：360 集团应用安全和基础安全建设实践”为主题进行分享。

他深入探讨了大模型技术在安全领域的应用与挑战，并分享了 360 集团在大模型安全方面的实践与创新。以下是本次演讲的主要亮点： 

大模型原生安全

议题首先介绍了大模型原生安全的概念，包括训练数据安全、模型自身安全和内容安全等方面的问题。360认为在大模型的训练和推理过程中，确保数据的安全性和合规性至关重要。

大模型原生安全风险案例

大模型训练数据安全保障

议题介绍了 360 集团自主研发的内容护栏技术，通过风险检测大模型对输入内容进行风险判断，并结合风险标签进行处理，确保输出内容的合规性，同时通过专门的安全回复大模型，能够在确保合规的前提下提供有效的回答。

大模型内容安全保障

大模型内容安全测评

大模型基础设施安全

大模型基础设施安全

大模型应用安全

针对大模型应用安全，议题以大模型对话业务为例，介绍了常见的安全问题，如免费使用漏洞和越权查看聊天记录。360 集团现阶段围绕 Devsecops 理念进行应用安全能力建设，确保大模型应用的安全性。

会议相关：