中国信通院云大所受邀参加2025电力数智化大会网络信息安全论坛并发表AI安全主题演讲！

前言

2025年11月5日，中国信息通信研究院云计算与大数据研究所（简称“中国信通院云大所”）受邀参加2025（第三届）电力数智化大会，并于网络信息安全论坛上发表“云上人工智能安全思考与洞察”主题演讲。

为深入贯彻落实党中央、国务院关于加快发展新质生产力的决策部署，积极响应国家发展改革委、国家电力局《关于推进“人工智能+”电力高质量发展的实施意见》要求，加速推进以人工智能为代表的数字技术与电力电力深度融合，促进电力高质量发展和高水平安全，中国电力发展促进会(以下简称“电促会”)于2025年11月4-5日在北京举办“2025(第三届)电力数智化大会”大会，以“数智赋能电亮绿色未来”为主题，共同探讨数字技术在电力行业企业的融合创新应用。

中国信通院云大所开源和软件安全部副主任卫斌受邀参加网络信息安全论坛，以《云上人工智能安全思考与洞察》为主题，立足云上人工智能发展历程，剖析其在多元应用场景拓展中面临的安全风险，系统梳理当前云上人工智能安全产业发展现状，多维度深入探讨云上人工智能安全治理路径，并对未来发展趋势作出展望。

卫斌表明，针对人工智能催生的新型安全威胁，传统安全工具的防御效能可能略显不足，“AI 对抗 AI”成为行业未来发展方向。人工智能的快速发展进一步加剧网络攻防态势的失衡，破解智能化安全技术瓶颈成为产业发展的迫切需求。当前，安全产业正以人工智能为核心驱动力，推动技术创新与产品迭代的双向突破，推动安全体系向内生防御、主动智能及韧性自治的方向加速转型。

依据标准开展测试评估，构建能力验证闭环

中国信通院持续开展电力领域人工智能安全相关研究工作，通过标准建设、测试评估、行业研究、咨询赋能等多种方式赋能产业发展。

一、可信AI云电力领域大模型应用安全能力评估

中国信通院牵头撰写《可信AI云电力领域大模型应用安全能力要求》标准，并依据标准开展电力领域大模型应用安全能力评估。致力于构建覆盖管理运维层、数据层、通用安全层、模型层、内容层、应用层的标准体系，实现全方位、全场景的安全标准覆盖。

电力领域大模型管理运维层安全

主要包括风险管理、应急响应、安全审计等方面，贯穿于大模型应用的全流程，为电力大模型安全运行提供管理与运维支撑。

电力领域大模型数据层安全

主要包括数据采集规范、数据存储保护、数据传输安全、数据备份恢复等关键环节，贯穿于大模型应用的全流程，保障电力大模型数据在采集、存储、传输等环节的安全合规性。

电力领域大模型通用安全层安全

主要包括基础设施安全、部署差异化安全防护、网络环境安全等方面，为电力大模型提供通用安全支撑，确保基础设施、不同部署模式及网络环境的整体安全。

电力领域大模型模型层安全

主要包括推理过程安全、性能稳定、安全监控等方面，围绕电力大模型的模型推理环节，保障推理过程安全、模型性能稳定及安全状态可监控。

电力领域大模型内容层安全

主要包括敏感信息识别、违规内容过滤、模型输出安全等方面，关注电力大模型内容处理的安全性，实现敏感信息可识别、违规内容能过滤、模型输出合规安全。

电力领域大模型应用层安全

主要包括应用接口安全、身份认证、服务可用性等方面，聚焦电力大模型应用交互过程的安全，确保应用接口安全、用户身份可靠认证及服务持续可用。

二、可信AI云电力领域智能体安全系列评估

智能体技术已融入如电网调度、电力设备健康管理等电力场景，有效优化流程复杂、响应低效等问题，但交互自主性、行为复杂性与生产安全性叠加，催生电力领域数据泄露、供应链风险及场景合规隐患。亟需通过标准构建全流程安全框架，明确行为边界、合规校验要求，填补电力智能体安全标准空白，助力智能体在电力场景中实现创新发展与安全保障的动态平衡。

中国信通院牵头编写《可信AI云电力领域智能体安全能力要求》系列标准，响应“人工智能 +”电力高质量发展需求，助力解决智能体在电网智能调控、电力智慧运维等核心场景的应用安全治理难题，并依据标准开展“可信AI云电力领域智能体安全系列评估”，主要包含以下几个部分：

电网调度与运行智能体安全评估
电力智慧运维智能体安全评估
电力市场与电力管理智能体安全评估
电力客户服务与综合支撑智能体安全评估等

三、可信AI云电力领域大模型安全防护产品能力系列评估

中国信通院牵头撰写《可信AI云电力领域大模型安全防护产品能力要求》系列标准，聚焦安全防护产品的核心能力短板与行业应用需求，致力于推动大模型安全防护能力全面升级，根据标准开展电力领域大模型安全防护产品能力系列评估。

1.电力领域大模型内容安全防护产品能力评估

电力领域大模型内容安全防护产品能力评估依据《可信AI云电力领域大模型内容安全防护产品能力要求》，针对大模型内容安全防护产品展开，主要包括内容风险识别、内容检测分析、内容安全防护、安全管理等方面。

2.电力领域大模型应用防火墙能力评估

电力领域大模型应用防火墙能力评估依据《可信AI云电力领域大模型应用防火墙产品能力要求》，针对大模型应用防火墙产品展开，主要包括应用接入、内容安全防护、业务安全防护、基础安全防护等方面。

3.电力领域大模型安全网关能力评估

电力领域大模型安全网关能力评估依据《可信AI云电力领域大模型安全网关产品能力要求》，针对大模型安全网关产品展开，主要包括统一API调用、智能调度、全链路可观测、安全防护、内容安全、模型管理等方面。

4.电力领域大模型安全防护围栏能力评估

电力领域大模型安全防护围栏能力评估依据《可信AI云电力领域大模型安全防护围栏产品能力要求》，针对大模型安全防护围栏产品展开，主要包括身份认证与权限管控、输入输出安全、数据全生命周期安全、抗攻击与资源防护、模型自身安全、合规审计、运维管理能力等方面。

5.电力领域大模型系统安全防护产品能力评估

电力领域大模型系统安全防护产品能力评估依据《可信AI云电力领域大模型系统安全防护产品能力要求》，针对大模型系统安全防护产品展开，主要包括系统后门检测、恶意程序防护、系统漏洞防护、内核安全防护、系统权限管控、系统服务保护、应用完整性校验、应用漏洞防护、应用隔离防护等方面。

6.电力领域大模型安全扫描产品能力评估

电力领域大模型安全扫描产品能力评估依据《可信AI云电力领域大模型安全扫描产品能力要求》，针对大模型安全扫描产品展开，主要包括扫描能力，AI智能体代码审查能力，AI供应链风险审查，修复与闭环能力，IDE与开发流程集成，CI/CD与自动化运维能力，报告、告警与治理工作流，权限认证与审计，可部署性、隔离与运维能力等方面。

中国信通院将持续深耕电力领域人工智能安全治理领域，从标准体系构建、关键技术攻关到产业实践落地多维度发力，系统推进安全评估、风险预警、合规指引等系列工作。现诚挚邀请电力产业链上下游伙伴、科研机构及行业用户积极参与，凝聚产学研用各方智慧，共同筑牢AI技术在电力领域创新与产业应用的安全底座，为“人工智能 +”电力高质量发展注入更坚实的安全动能，护航电力智能化时代的可信发展之路。

评估报名流程

报名时间

即日起-11月15日截至

材料提交

11月-12月

评估审查

11月-12月

专家评审

12月

结果发布

评估结果预计将于2025年12月AI安全相关大会上正式发布。

业务联系人