大模型系统安全标准验证试点结果公布

验证试点报告

本次标准验证试点依据《大模型系统安全保护要求（征求意见稿）》和《大模型系统安全测评要求（征求意见稿）》，主要从大模型系统通用安全和全生命周期安全两个角度综合评估大模型系统的安全性，共覆盖五大安全层面、30个安全控制点。其中，通用安全主要围绕大模型系统安全的基础安全层面，从物理环境、网络架构、边界防护、身份鉴别、访问控制、安全审计、入侵防范、恶意代码防范、集中管控、供应链管理、个人信息保护、数据保密性、备份恢复和数据溯源等14个控制点进行测评；全生命周期安全主要围绕大模型系统的设计开发安全、测试安全、部署与运行安全和退役安全四大安全层面，从数据收集、数据清洗、数据标注、模型保护、内容安全、模型评估、模型更新、模型部署、模型应用、运行监测、系统管理、变更管理、安全事件处置、应急预案管理、模型退役、数据删除等16个控制点进行测评。

综合前期对文心一言大模型系统和智谱清言大模型系统的调研、现场测评和后期的数据分析等工作，参与本次安全标准试点验证的两项大模型系统顺利完成试点验证。