杨数浦数字沙龙（第九期）暨2025年国家网络安全宣传周杨浦区专项活动圆满举行

9月19日下午，伴随一曲《炙热的你》的旋律，杨“数”浦数字沙龙（第九期）暨2025年国家网络安全宣传周杨浦区专项活动在创智天地广场V聚场举办。

本期沙龙由杨浦区委网信办主办，上海赛博网络安全产业创新研究院承办，以“杨浦AI治道：人工智能安全治理前沿对话”为核心主题，聚焦人工智能技术应用中的安全风险防控、治理机制构建等关键议题，深入研讨人工智能安全治理的创新路径与落地方案。

在嘉宾演讲环节，同济大学法学院副教授、上海市人工智能社会治理协同创新中心研究员陈吉栋以《“人工智能+”行动：背景、逻辑与国际比较》为主题，聚焦《国务院关于深入实施“人工智能+”行动的意见》的出台背景与战略价值。他表示，意见首次系统性地将人工智能定义为“新质生产力”的核心要素，创新性提出“以应用为牵引、基础为支撑”的“6大应用领域×8大基础支撑”发展框架。同时，陈吉栋着重分析了中美AI竞争态势，指出中国应充分发挥应用场景和制度优势，探索出一条具有特色的发展路径。

上海人工智能实验室青年研究员李杰在题为《大模型安全风险与应对》的分享中，系统阐述了大模型当前面临的安全挑战与治理路径。他指出，随着人工智能性能的快速提升，其安全发展已呈现明显失衡态势，大模型在实践中普遍遭遇以OWASP十大风险为代表的多类威胁。从数据投毒、交互攻击，到代理行为失控，各类风险贯穿模型全生命周期，并不断向物理世界渗透延伸。针对这一现状，李杰提议构建三层协同防御体系：其一，运用护栏机制；其二，借助攻防对齐加强内生安全；其三，重塑安全评测。

赛博研究院智库总监周雪静围绕《AI安全治理：从风险认知到多维治理框架》这一主题，详尽阐述了人工智能安全治理面临的现实挑战以及可行的实现路径。她指出，AI应用发展势头迅猛，国内外大模型产品的访问量和使用时长走高，相关配套政策也在不断完善，但与此同时，AI安全风险错综交织。具体体现为基础层存在内生安全漏洞、应用层衍生出多种风险，以及治理层面临合规与红线方面的挑战。同时，周雪静进一步表示，全球已有69个国家和地区出台了人工智能相关治理政策，但各国在治理方向和监管重点上存在明显差异。为应对此类复杂风险，周雪静提出了一个包含技术、组织管理、政策标准与监管协同的多维治理框架，并建议通过算法风险评估、安全渗透测试、备案合规咨询等具体解决方案，系统性地构建AI风险防控与合规运营体系。

自2024年12月启动以来，杨“数”浦数字沙龙采取线下形式，每月一期，共计12期，主要面向杨浦区及上海市数字经济企业管理层、法务、技术等相关从业人员，围绕数据经济合规有关主题，邀请产学研机构专家进行分享交流。