攻击、爬虫、数据泄露？大模型应用安全落地的生存指南

基于此，本期《安全记》栏目围绕“大模型应用安全防护”主题展开探讨，首次邀请到了阿里云智能集团研究院院长穆飞担任主持人，特邀阿里云通义大模型业务总经理徐栋、阿里云安全产品负责人祝建跃作为嘉宾，共同就大模型应用面临的风险、防护方案等方面展开探讨，结合阿里云和客户的供需双方实践经验，深入浅出地解构大模型应用安全挑战的应对路径与技术趋势。

本文基于访谈嘉宾观点进行提炼，完整版内容请点击下方视频。

访谈中徐栋表示，在大模型应用场景下的安全问题主要有三类：

祝建跃则进一步从技术角度阐述了上述安全风险出现的原因。他表示传统的经典安全问题，比如DDoS攻击等，在大模型场景下依然存在。但同时大模型应用场景下，其独特的服务形态还带来了新兴安全风险，例如算力环境安全、大模型API安全等，需要企业额外关注。

面对日益严峻的安全风险，祝建跃表示，大模型应用场景下存在安全木桶理论，任何一块短板的出现都可能带来严重安全事故。

因此，大模型应用需具备全栈防御思维：

阿里云安全团队也在基于大模型应用场景更新迭代防护方案，例如阿里云安全中心可对PAI、灵骏等Severless高性能GPU计算实例提供运行时的威胁检测，阻断工作负载中的恶意进程，特别是对于挖矿类的进程能快速识别并自动隔离，保障大模型应用的稳定性。

徐栋则从企业的视角分享了大模型应用安全的实践。他表示，大模型应用相比于传统互联网应用有一定的区别，其知识库可能更加简洁直白，为此阿里云针对性推出“本地知识库+云端模型”的安全架构来满足用户诉求：既可以享受在云上调用最好、最领先的模型，又兼顾安全可控的体验。

祝建跃表示阿里云作为同时提供云计算与大模型服务的领先厂商，在云安全和大模型安全领域有着深厚的技术积累，以及丰富的安全实战经验，深刻理解企业业务效率和安全的平衡。例如推出了基于大模型的AI助手，帮助用户更好地了解和处置告警。

同时将安全能力深度融入云原生架构之中，具备云的天然优势，将包括弹性、高可用、规模化等赋予安全。最终为用户打造一个统一的云计算与大模型应用的安全防护体系，通过统一运营平台实现“构建-部署-运行”全生命周期安全管理，减少人为配置错误。

徐栋认为阿里云通义大模型依托于“百炼”模型服务平台，已经有大量用户使用，积累了丰富且成熟的经验。因为采取开源策略，所以阿里云在模型原生安全方面投入了大量的资源进行强化，并且未来还会持续提升。此外在模型对外提供服务时，阿里云自带安全围栏，帮助用户及时调整内容策略，让用户有更多的时间对业务进行优化，无需担心安全问题。

祝建跃表示，未来阿里云将进一步强化安全与AI的“双向赋能”。在大模型应用安全防护方面：

同时阿里云也将利用大模型全面提升安全能力（AI for Security），例如在内容安全领域实现“用模型打败模型”；在威胁检测及自动化响应方面去做更多的能力提升。

徐栋也表示，AI时代大量的风险来源于文本，因此通义大模型将在不久之后，针对非IT层面的内容安全进行一次大的升级，围绕业务安全让传统小模型升级为大模型或大的风控智能体。