CCS 2024 | AI+网信安全技术交流活动在成都成功举办

“让安全更智能、让智能更安全”。9月12日上午，由《中国信息安全》杂志社、中国信通院人工智能研究所、中国移动通信集团信安中心联合承办的“AI+网信安全”技术交流活动在成都举办。大会聚焦人工智能（AI）技术在网络安全领域的创新应用与深度融合，通过分享前沿研究成果、实践案例与趋势洞察，探讨AI如何赋能传统网信安全防护体系，提升其智能化、自动化水平，有效应对日益复杂多变的网络威胁。同时，大会还同步探讨了AI技术应用在智算基础设施、模型算法、应用服务等方面的安全风险与应对方案，促进AI技术的安全应用。

数字化转型浪潮下，网络空间已成为国家安全、经济发展和社会生活的重要基石，而随着人工智能渗透各行各业，网络安全领域的发展面临着前所未有的挑战与机遇，深入研讨人工智能与网络安全融合发展的可能性迫在眉睫。

中国信息安全测评中心副主任温哲，中国信息通信研究院党委副书记王晓丽，中国移动集团信安中心副总经理袁捷等出席会议并致辞。

中国工程院院士黄殿中进行了《网络空间安全大视野新观察》的主旨发言。黄殿中院士的演讲深入探讨了网络安全领域的三大视角：国际网络战略新动向、网络安全威胁新特点与智能安全技术新热点。黄院士特别聚焦于全面剖析人工智能与网络安全的双刃剑效应，阐述了人工智能如何提升威胁检测与响应能力，增强网络安全态势感知，但也强调了人工智能降低网络攻击门槛的风险，如自动化漏洞利用、智能生成恶意软件及伪造网络内容等。同时，他还强调了人工智能安全治理的紧迫性，提出了对模型、数据、技术及应用安全的多维度要求。

中国工程院院士黄殿中

会议现场进行了安全大模型标准参编与测评证书颁布，以及《AI+智慧城市安全白皮书》《关键信息基础设施网络及信息系统作业可信与安全白皮书》《高效安全管理体系白皮书》等重磅发布。

主题分享环节，中国信通院人工智能研究所所长魏凯进行了大模型安全技术研究与实践分享。魏凯所长从行业的视角分析了大模型在基础设施层、数据要素层、模型算法层和应用服务层存在的典型安全风险，并分别提出相应的应对思路。同时，魏凯所长还分享了大模型安全风险监测及防控平台建设、大模型基准评测、AI应用服务评测、安全大模型评测等方面的优秀实践案例，为行业整体提升大模型安全保障能力，与安全大模型产品能力指明了方向。

北京邮电大学网络空间安全学院执行院长李小勇进行了生成式AI大模型安全与赋能技术研究分享。期间，李小勇院长对生成式人工智能人时代的意义，人工智能赋能安全，以及人工智能自身的安全进行了分析分享，并介绍了国内首款全流程人工智能安全攻防靶场、创新的诱导式生成式人工智能模型测评平台、国内首款基于零信任的人工智能安全防火墙等三个研究成。

华为中国区网络安全与隐私保护CTO冯运波分享了关于AI安全治理的实践与思考。冯运波表示，人工智能迅速发展，应用于人民生活的各个领域。把数字世界带入每个人、每个家庭、每个组织，构建万物互联的智能世界，是华为公司的愿景。他认为，人工智能应该促进人类、社会和环境的福祉，安全可控、保护隐私、透明可解释、与人协作，且可持续。当前基于Transformer的AI大模型面临的威胁和挑战主要分为三类，一是关于AI计算环境的威胁；二是关于AI应用自身的威胁；三则是关于AI应用与服务有意识或无意识被滥用的威胁。针对AI应用与服务不同维度的威胁，华为构筑纵深防御5道安全防线，确保安全做事。

启明星辰集团副总裁、研发总监、北冥AI实验室首席科学家李陟进行了打造以智能体为核心的安全防护体系分享。李陟认为，人工智能为网络攻防带来了新变化。当前以单点能力提升为目的的人工智能算法已经在网络安全领域得到了广泛的应用，在大模型时代需要充分利用技术红利，构建全流程的智能防护体系。启明星辰依托中国移动九天基础大模型，打造泰合安全大模型，并以此为基础研发安星智能体，全面应用于安全检测和运营产品。启明星辰对传统安全产品进行了升级改造，实现安全能力的原子化和API化，为安星智能体进行安全任务的自主规划和执行奠定了基础。该方案已在安全运营业务场景中进行了验证，可有效提升安全运营效率，并实现安全大模型能力迭代升级的闭环。

成果解读环节，中国移动集团首席专家、信安中心网络安全研发中心经理张峰对《AI+智慧城市安全白皮书》进行了解读。华为全球技术服务部首席网络安全官、合规官段学鹏对《关键信息基础设施网络及信息系统作业可信与安全白皮书》进行了解读。北京金钻芯科技有限公司总经理邱亮对《高效安全管理体系白皮书》进行了解读。中国信通院人工智能研究所研究员静静解读了《安全大模型能力要求与评估方法》标准。

大会最后，围绕人工智能安全技术发展趋势展开了圆桌对话，中国信息通信研究院人工智能研究所安全与元宇宙部技术主管陈文弢、奇安信科技集团股份有限公司副总裁张卓、绿盟科技集团创新研究院总经理、星云实验室负责人刘文懋、360安全科技股份有限公司集团副总裁余凯、科来网络技术股份有限公司副总经理孟召瑞、成都思维世纪科技有限责任公司总经理钟志成、上海斗象信息科技有限公司CTO徐钟豪等参与讨论。

分享网络安全知识 强化网络安全意识

欢迎关注《中国信息安全》杂志官方抖音号