2024年11月21日，紫金山实验室、嵩山实验室主办，上海大学、同济大学、复旦大学、紫金智联等单位协办的第四届网络空间内生安全学术大会“智能系统与内生安全论坛”在南京隆重举行。论坛聚焦人工智能应用系统安全治理，邀请中国工程院邬江兴院士、陆军院士、于海斌院士，南京航空航天大学校长姜斌教授、复旦大学副校长姜育刚教授、上海大学谢少荣教授、浙江大学陈红胜教授、北京航空航天大学杨世春教授、北京理工大学孙健教授、重庆大学宋永端教授、西安电子科技大学陈晓峰教授、清华大学王红教授、同济大学张皓教授、国家数字交换系统工程技术研究中心张帆教授等领域专家，共同研讨“智能向善”的可落地技术和构想，探索智能系统安全韧性防护的技术思路以及最佳实践。
“发展负责任的人工智能，拥抱智能向善的数字未来”，中国工程院邬江兴院士在致辞中表示，要实现AI For Good需有内生安全技术作保障，一体化地解决智能系统功能安全、网络安全、信息安全相互交织问题，突破传统“外挂式、补丁式”安全技术的局限，将安全基因植入系统内部，打造韧性抗毁的向善的智能系统任重而道远。南京航空航天大学校长姜斌教授介绍了“集群无人机智能故障诊断与协同容错控制”领域的前沿研究，分析了集群无人机的故障类型，介绍了基于元胞自动机与时序网络相的集群无人机故障影响模型，分享了多个集群无人机协同容错控制实验验证实例，并进一步分享了今后集群无人机研究的展望。复旦大学副校长姜育刚教授就“大模型可信性研究”前沿成果进行了分享，分析了大模型发展现状，并介绍了在模型中出现的幻觉、隐私泄露、诱导性、生成内容不可控、信息伪造、版权侵犯、多模态漏洞和语音合成等可信问题的案例，分享了其共同发布的蒲公英·人工智能治理平台用于系统演示AI模型的问题和风险和伦理大模型用于伦理审查。最后，分享了教材《人工智能：数据与模型安全》，并期待能够培养更多新一代网安人才。图 北京航空航天大学杨世春教授“智能网联汽车信息安全与融合安全研究”报告北京航空航天大学杨世春教授分享了“智能网联汽车信息安全与融合安全研究”的前沿研究，介绍了结合云端的复杂深度学习算法和车端数据进行交互来进行车辆入侵的检测，分析了智能网联汽车的融合安全，建立安全风险和不安全行为之间的一个映射关系，计算出综合安全的风险值。并进一步分享了智能网联汽车安全的从团队标准制定到国家标准制定的展望图 浙江大学陈红胜教授“面向电磁信息安全的智能超材料隐身与识别”报告浙江大学陈红胜教授对“面向电磁信息安全的智能超材料隐身与识别”的研究前沿进行了深入浅出的介绍，分享了当前存在的电磁安全问题，并对人工智能方法和超材料融合发展的智能超材料隐身与识别进行了详细的分析，最后对从外驱智能和内生智能两个角度对报告进行了总结。图 同济大学张皓教授“自主智能无人系统的攻防策略研究”报告同济大学张皓教授针对“自主智能无人系统的攻防策略研究”领域的前沿研究进行了分享，介绍了当前基于智能算法的攻击策略、检测算法和安全控制的设计，并分析了其在攻防对抗情形下的策略选择，最后对基于大模型方法的结合做了展望。国家数字交换系统工程技术研究中心的张帆教授分享了“人工智能应用系统内生安全研究”的前沿研究内容，分析了现有人工智能技术带来的“三不可”带来的内生安全的个性化问题，给出了通过人工智能内生安全赋能的研究工作，进一步对未来在敏感领域使用AI应用服务系统进行了展望。随后，由季新生教授主持，中国工程院邬江兴院士，中国工程院于海斌院士， 上海大学谢少荣教授，重庆大学宋永端教授，西安电子科技大学陈晓峰教授， 北京理工大学孙健教授和清华大学王红教授进行了本次圆桌论坛。论坛就人工智能和安全这个议题科学问题到具身智能应用安全再到安全人才培养进行了深入的探讨。接着，中国网络空间内生安全技术与产业联盟人工智能专委会2024年度工作会议由张帆教授主持并今年的工作进行了汇报，然后由邬江兴院士给新加入的委员颁发证书和合影留恋，最后，张帆教授汇报了明年的工作计划以及论坛未来发展展望。
还没有评论，来说两句吧...