全球AI大模型攻防挑战赛收官 | CAISP人工智能安全认证专家 - 新鲜讯息

11月20日，全球AI大模型攻防挑战赛在世界互联网大会乌镇峰会收官。现场，全球十强选手面对“眼见不为实、耳听不为实”的场景，通过大模型技术辨别AI造假的音频、证照及视频，用AI对抗AI。

赛事由中国图象图形学学会、蚂蚁集团、云安全联盟（CSA）大中华区联合主办，联合清华大学、上海交通大学、浙江大学、北京科技大学、湖南大学、华中科技大学、北京理工大学等高校及多家产学研组织共同发起，直面并解决大模型应用中潜藏风险，助力全球AI产业健康可持续发展。

来自全球18个国家和地区的2700多个赛队、3200余名技术精英参与了竞逐，选手来自清华大学、北京大学、交通大学、南洋理工大学、约翰霍普金斯大学、香港科技大学、悉尼大学等290多个国内外高校，以及理想汽车、腾讯、智谱AI、Shopee、网易等280多个互联网、金融、汽车、大模型科技等行业企业。

通过攻、防双向赛道竞技，大赛最终角逐出全球十强，由来自合合信息科技、济南大学、浙江工业大学、安徽大学、上海交通大学等企业和高校的赛队获得。

CSA大中华区主席李雨航（右）与蚂蚁集团副总裁李俊奎（左）为冠军团队颁奖

全球AI大模型攻防挑战赛十强乌镇亮相

攻防竞技深入剖析大模型安全痛点

近年来，人工智能技术特别是大模型及AIGC领域飞速发展，给我们生活带来了前所未有的便利与可能性，也带来了安全方面的挑战。

只需10秒，大模型就能克隆声音、复刻照片，甚至能生成“你”的视频，从而引发deepfake欺诈、色情影像伪造、假新闻等社会事件；大模型“越狱”问题频发，诱骗AI听从不怀好意的指令，生成血腥、暴力、歧视、仇恨的图片、视频，危害网络空间安全。

中国工程院院士、中国图象图形学学会理事长王耀南指出：“加强大模型安全保护，构建完善的安全防护体系，是确保人工智能技术持续、稳定、健康发展的关键所在，也是我们在这个充满机遇与挑战的时代必须肩负起的重要使命。”

在此背景下，全球AI大模型攻防挑战赛聚焦大模型自身安全和大模型生成内容的防伪检测两个赛道，赛题涉及信用成长、凭证审核、商家入驻、智能助理等多个业务场景，覆盖机器学习、图像处理与计算机视觉、数据处理等多个算法领域，通过创新的技术解决方案，进一步保障大模型应用安全和产业安全。

全球AI大模型攻防挑战赛十强选手现场对抗AI诈骗

人才与标准共建大模型安全未来

云安全联盟（CSA）大中华区不仅致力于技术创新，还注重安全技术人才的培养和行业标准的建立。在本次赛事中，3200余名参赛选手横跨学术与产业界，代表了当前全球大模型安全技术的前沿水平。CSA通过赛事平台发掘并培养了新一批安全技术专家，为行业储备了高质量的智力资源。

与此同时，CSA持续推动大模型安全标准化建设。在赛事期间，CSA携手合作伙伴探讨了AI安全的国际规范，包括凭证认证标准、AI生成内容验证框架等方向，旨在通过技术标准化降低安全风险，提升全球AI产业的信任度。

云安全联盟CSA作为网络安全领域全球领先的国际组织，建立了全球最大的研究工作组对AI安全展开全面的研究，CSA大中华区作为核心贡献力量，在安全指南、标准等领域输出了丰富的研究成果。特别是在人工培养方面，CSA大中华区发布了全球首个人工智能安全认证培训项目，CAISP（Certified Artificial Intelligence Security Professional）人工智能安全认证专家。这一系统性的认证课程是人工智能的一大重要里程碑，补充了AI安全人才知识体系的空白。CAISP认证课程涵盖大模型的安全治理、算法防御及数据隐私保护等关键领域，专注于为AI从业者提升系统化的安全知识与实战技能水平。

此次通过CAISP认证培训与“全球AI大模型攻防挑战赛”结合，丰富了CSA的AI人才培养体系。CAISP认证课程是全面系统的知识体系和培养安全建设能力，赛事是对人才实战技能更严格的训练手段。CSA面对数字技术发展，持续丰富数字安全人才培养体系，培养具有国际水平的实战型数字安全人才。

承制首期CAISP认证培训开班将于11月30日（本周末）开展，报名首期班可获得由承制科技赠送的CDSP数据安全认证专家录播课程。

CAISP

人工智能安全认证专家

人工智能安全认证专家(Certified Artificial Intelligence Security Professional，CAISP)由国际云安全联盟大中华区发布，旨在为从事AI(含AI安全)的研究、管理、运营、开发以及网络安全等从业人员提供一套全面覆盖AI安全领域、跨领域综合能力培养、实践导向与案例分析、结合全球视野与法规治理的AI安全课程。

CAISP学习对象

AI行业相关人员：AI工程师与开发者、AI安全工程师、AI应用终端用户；
安全相关人员：安全研究员、合规与风险管理专员、网络安全从业者；
其他：政策制定者和监管机构、科技管理者、在校学生。

CAISP公开课课程内容

模块	培训内容
AI安全概述篇	AI与AI安全基本概念 AI与安全衍生技术发展脉络
技术基础篇	常见AI算法与模型介绍 AI模型与算法安全性分析数据隐私保护与安全措施
安全风险篇	大模型安全风险概述典型攻击与应对策略：提示攻击、对抗攻击、梯度泄露攻击、推理攻击、模型萃取攻击、供应链攻击、应对策略防御机制解析
政策与治理篇	国内外AI安全法律法规、标准规范分析 AI安全治理框架
全生命周期管理篇	DevSecOps与AI AI安全需求分析与设计安全的AI系统开发指南与实践 AI安全测评框架应用 AI渗透测试技术与方法 AI安全运营保障体系建设
标准与评估篇	AI安全框架 AI成熟度模型应用与评估 AI安全标准与测评认证实践
特别篇ChatGPT的安全影响	恶意行为者利用LLM的安全分析防御者如何将LLM应用于网络安全恶意提示词攻击的防范措施企业安全使用ChatGPT的最佳实践
实践案例篇	现实世界中的AI安全问题深度分析解决方案制定与应对策略关键领域的AI安全最佳实践案例行业大模型应用及安全实践案例
伦理与未来发展	AI伦理道德挑战与分析典型场景下的AI伦理道德风险未来发展趋势
考前串讲	考前要点讲解与考前练习