2025人工智能安全治理与技术创新高端研讨会在乌镇举行

11月8日下午，2025人工智能安全治理与技术创新高端研讨会在乌镇举行。会议旨在深入探讨人工智能特别是大模型技术快速发展背景下所面临的安全风险、治理挑战与创新机遇，推动构建兼顾发展与安全的人工智能生态体系。

会议邀请了来自清华大学、浙江大学、上海人工智能实验室、中国电子技术标准化研究院以及安恒信息等单位的专家作重点发言。清华大学公共管理学院教授孟庆国聚焦政务场景，指出大模型因幻觉输出错误政策解读或不可解释的决策建议，可能影响政府公信力与依法行政；浙江大学滨江研究院数智融合研究中心主任韩蒙从全球治理视角出发，提出应构建涵盖模型、产品、场景和产业四层次的人工智能生态治理框架，并强调跨文化对齐对国产AI出海的重要性；上海人工智能实验室安全可信AI中心联合负责人王迎春介绍了正在建设的大模型安全加固平台和工业级评测体系，该体系目前已在医疗、能源等领域开展安全认证试点，助力行业解决“能用不敢用”问题；中国电子技术标准化研究院网络安全研究中心主任姚相振分享了我国人工智能安全标准体系进展，正加快推进建立覆盖分类分级、生成内容标识及重点行业安全指引的治理框架，为产业安全应用提供制度支撑；安恒信息高级副总裁杨勃结合实战案例，分析了AI自动生成高隐蔽性恶意代码（如“银狐”攻击）带来的防御挑战，并展示了利用大模型提升钓鱼识别与未知威胁发现能力的创新实践。在随后的务虚研讨环节，与会专家围绕“如何实现人工智能安全治理与技术创新的深度融合”展开讨论。一致认为，人工智能安全不能仅靠单点技术修补，必须坚持发展与安全动态平衡，强化政产学研协同，加快构建覆盖全链条、贯通多层级的治理体系。协会理事长出席研讨会并讲话。

本次会议由中国网络空间安全协会主办，西湖论剑大会组委会、安恒信息、华为公司承办，协会秘书处主要负责同志及来自地方政府、科研机构和企业的三十余位专家学者参加。