会议即将召开 | 云上大模型安全推进方阵线上筹备会暨云上大模型安全系列标准第一次产业研讨会重磅来袭！ - 新鲜讯息

前言

随着人工智能技术的快速发展，大模型已成为推动数字化转型的重要引擎，在政务、金融、医疗、教育等领域展现出巨大的应用潜力。尤其是国产大模型DeepSeek的异军突起，凭借其出色的性能和多样化的应用能力，已被众多行业和企业争相引入。然而，云上大模型的广泛部署也带来了包括模型安全漏洞、生成内容合规性、数据隐私保护以及云基础设施风险等诸多安全挑战。这些问题不仅影响云上大模型的应用可信度，更关系到人工智能产业的健康发展和国家安全。

近年来，国家高度重视人工智能与网络安全的标准化建设。2024年6月，工业和信息化部等四部门联合发布的《国家人工智能产业综合标准化体系建设指南（2024版）》明确提出，要加快构建满足人工智能高质量发展需求的标准体系，促进技术进步、产业升级与安全保障。

为进一步推进云上大模型安全技术研究和标准化建设工作，中国信息通信研究院（以下简称“中国信通院”）牵头筹备成立“云上大模型安全推进方阵”，并启动“云上大模型安全系列标准”的编撰与调研工作，旨在整合产业力量，规范云上大模型的安全建设，推动技术创新与安全治理协同发展。

（一）“云上大模型安全推进方阵”工作重点方向

产业趋势研究：立足产业全局视角分析云上大模型安全发展趋势，联合产学研各方编写发布产业研究报告与前瞻性分析成果；组织开展云上大模型安全技术攻关，探索前沿云上大模型安全相关方案，为产业高质量发展提供战略指引。

完善标准体系：系统梳理云上大模型安全相关技术架构与标准规范，围绕训练部署、数据安全、模型防护等关键环节的核心要求，沉淀完善标准化文件，构建安全能力评估体系，推动云上大模型安全防护体系规范化发展。

最佳实践探索：联合云服务商、安全厂商及产业链合作伙伴，开展云上大模型安全防护创新试点，探索大模型在不同云环境下的安全部署模式；征集优秀安全实践案例，形成可复制可推广的安全解决方案，助力行业健康发展。

生态协同发展：整合产学研各方资源，通过组织技术研讨、安全论坛、专家对话等形式，促进云上大模型安全横向领域的深度交流；组织供需对接活动，促进技术供给与市场需求的精准对接，打通创新链与产业链；推动产业链上下游协同创新，构建良性发展生态。

（二）“云上大模型安全系列标准”体系建设框架

云上大模型安全能力要求第1部分：基础设施安全

围绕云上大模型基础设施层面的安全防护要求，涵盖计算资源、存储系统、网络环境等核心基础设施的安全保障措施。

云上大模型安全能力要求第2部分：模型安全

围绕云上大模型在训练、推理、部署等全生命周期的安全防护要求，包括模型安全架构、对抗攻击防护、可信计算等关键技术规范。