赋能AI安全人才培养！工信部人才交流中心联合深信服在京粤两地举办培训活动圆满收官

锚定前沿

解码大模型时代的安全趋势与架构变革

作为培训的开篇，活动邀请了中国信通院云计算与大数据研究所开源与软件安全部副主任卫斌首先聚焦“大模型时代下安全发展的趋势与未来架构”展开深度解读，为整场培训奠定理论基石。卫斌指出，人工智能安全防护体系是筑牢企业高质量发展根基、激活技术创新动能与维护社会稳定的基石，但随着人工智能技术的发展，云上安全风险日益突出，基础设施、供应链、数据、模型算法与应用层等关键节点面临多维挑战，可能导致服务中断、数据泄露或有害内容输出。因而需建立覆盖云上人工智能全生命周期的系统性防护框架并实现跨层闭环治理，强化云上人工智能的安全、合规与可持续发展。

与此同时，网络安全的技术与产品正在积极拥抱人工智能浪潮，凭借机器学习与智能分析等关键能力，推动安全模式的变革并构建覆盖全场景的防护体系，提高了攻防对抗的整体效能，完成了从基于规则、依赖大数据到进入智能分析驱动的新阶段的转型。卫斌认为，未来安全行业大模型的技术创新将持续向垂直化、深度化方向进阶，一方面会聚焦特定安全场景强化核心算法优化与专业模型训练效率，提升技术层面的实时响应和自适应学习能力，另一方面会通过整合联邦学习技术突破数据孤岛技术瓶颈、融合多方数据优化模型分析技术路径，并加强技术领域的国际合作与标准化建设，推动安全产业构建更全面、高效的防护技术体系。

落地实践

拆解AI在网络安全场景的多元应用路径

理论铺垫后，培训重点转入“大模型时代的网络安全实践与应用”，深信服资深专家团队以“技术落地”为核心，结合真实案例进行了场景化的讲解，特别针对安全运营大模型、Web流量检测大模型、邮件钓鱼检测大模型、数据安全大模型等业内前沿的安全大模型使用场景，以及安全GPT在实战攻防中的应用和效果进行了分享。

围绕“实践与应用”，专家团队还对比了传统依赖安全专家投入的防护模式与AI驱动防护的本质差异。传统的安防策略难以通过高强度的“多班倒”进行人员集中防护，监测分析疲于奔命、处置不过来。而安全大模型可以扮演安全专家的角色，7*24小时实时在线，实现N+E+X告警关联与安全事件研判，生成威胁运营报表报告。从效果上看，安全大模型面对海量的安全告警，平均降噪率可达99%，处置效率是普通人的200倍，大幅提升了安全运营效率，实质上解决了企业安全人员不足的困境。

聚焦风险

构建大模型自身的安全防护体系

随着AI技术在安全领域的应用深化，“大模型自身的安全风险”成为不可忽视的核心议题。在这一环节，专家团队以“大模型安全风险洞察与防护方案”为重点，通过对本地大模型使用场景和互联网大模型使用场景进行拆解，详细分析了大模型使用过程中面临的安全隐患，让学员直观理解技术应用中的高危问题，包含关键信息泄密、远程代码执行、权限管控等。

此外，专家团队还系统讲解了大模型在不同使用场景中如何进行安全防护的逻辑：本地大模型使用场景下的方案逻辑架构和系统组成包括前后大模型安全护栏、零信任系统、访问风险识别系统、数据安全平台。其中，零信任系统可以收缩大模型应用暴露面，基于身份对模型访问多维动态控制，风险治理系统可以根据上下文识别异常访问行为，前后护栏可以检测阻断有害信息和敏感信息，而数据安全平台对内容分类分级，检测泄密风险。

在互联网大模型使用场景中，可通过AC+SASE-XDLP构建应用管控和数据泄密风险防护能力。通过大模型应用/工具的特征识别、流量识别等，持续感知数据泄密风险，保障大模型使用安全。

实战赋能

以攻防案例深化AI技术的实操认知

培训的压轴环节聚焦“实战攻防AI技术应用”，由深信服安全实战专家讲解，从“攻击视角”与“防守视角”双维度拆解真实案例，让学员在模拟对抗场景中深化技术认知。在攻击视角分享中，专家展示了如何借助AI实现自动化信息收集、漏洞挖掘和利用、社会工程智能化，快速定位关键系统并实施精准横向移动。例如，借助AI编写钓鱼文案和木马，精准钓鱼获取运维人员机器权限，并通过机器学习分析内网拓扑，结合密码复用等手段扩大攻击面，形成更高效的“低感知”渗透链条。这一讲解让学员更清晰掌握攻击者的技术逻辑，为防守策略制定提供反向参考。

防守案例解析选取多起典型网络攻击事件，现场讲解AI大模型风险的应对策略，如提示攻击通过大模型独立身份、最小权限、人工确认特权操作等实现全流程管控；对抗攻击以数据隔离、对抗训练为基础，结合检测、审查与演练构建全链条防御；推理攻击依托数据净化、输入过滤保障安全；萃取攻击通过强访问控制、日志审计等防泄密；模型输出恶意利用用零信任权限与内容编码应对；供应链攻击从供应商审查、漏洞管理等筑牢防线。此外，开源AI工具可辅助安全检测防御，进一步提升防护水平，为大模型安全应用提供参考。

知识巩固

认证考核检验学习成果

培训的最后一个环节是认证考核。此次考核围绕全天培训内容展开，涵盖理论知识与实际操作，旨在全面检验学员对AI技术在网络安全领域应用的理解与掌握程度。通过严格考核，不仅帮助学员巩固所学知识，更让他们获得兼具权威性与实战性的双重认可，即“深信服人工智能安全认证证书”与“工信人才-深信服安全专业联合证书”。