大模型安全问题小结

目前DeepSeek在全球范围内收获大量用户和关注之际，2025年1月接连发生了大规模（Tb级别）的DDoS攻击、百万级数据泄露事件，大模型自身安全问题亟待解决。

从安全视角出发，无论何种使用场景，大模型或GenAI的使用都可能会给最终用户带来新的安全风险。例如：

训练安全；大模型训练数据质量把控不过关，使用有偏见的数据训练生成的大模型会持续输出有偏见的输出；在模型训练过程中大量高质量数据需要被集中在一起，数据泄露风险会陡然加大。
基础设施安全：大模型运行所依赖的硬件设施、软件框架、操作系统等，若存在漏洞，会极大影响大模型的稳定与安全运行。
内容安全：大模型生成内容可能存在不准确、不合规、个人敏感信息或企业机密信息以及存在侵权可能的内容；输入内容可能存在恶意攻击指令会干扰模型推理预测，造成不良后果。
应用安全：在应用层面面临传统网络安全问题和应用框架安全双重风险，如DDoS攻击、SQL注入、恶意插件、跨站脚本攻击等。