专家学者共议AI时代网络安全新变局，呼吁构建智能安全新生态

6月5日，在2025全球数字经济大会数字安全主论坛暨第七届北京网络安全大会（BCS）期间举办的第六届金融数字化转型与网络安全论坛上，来自运营商、金融科技、网络安全和学术界的七位顶尖专家齐聚一堂，展开了题为“人工智能时代的网络安全新变局”的圆桌对话。

圆桌对话由北大国发院传播中心主任王贤青主持，对话专家分别从各自领域的专业视角出发，深入探讨了AI技术飞速发展给网络安全领域带来的深刻挑战与战略机遇。与会专家普遍认为，AI重塑了网络攻防格局，需要业界协同以智能对抗智能，构建以人为本、安全内生的发展新范式。

　　对话嘉宾包括王贤青、张建桁、谭晓生、董青马、况文川、高晓飞、江爱军（由左至右）

　　AI伴生安全风险，催生系统性挑战

专家们指出，AI技术在降低攻击门槛、提升攻击效率的同时，也带来了前所未有的风险维度。

　　北大国发院传播中心主任王贤青

首先是攻击平民化的挑战。北京赛博英杰科技有限公司创始人、董事长谭晓生强调，大模型的出现让攻击者无需深厚编程功底，“精心设计的提示词可以突破系统防线，诱导AI泄露受保护的敏感信息，造成严重后果。”联通数字科技有限公司安全事业部副总经理张建桁认为，利用智能体可以大大提高网络攻击的效率。国内DeepSeek推出之后，把AI推向通用化。这意味着针对运营商、云服务商，包括政企用户的更广泛攻击，这是对运营商来说下一步面临的最大挑战。主持人王贤青也补充，AI普及导致对编程等方面的要求降低，降低了网络攻击的门槛，这意味着AI使非专业人士也能发动高效攻击。

　　北京赛博英杰科技有限公司创始人、董事长谭晓生

　　联通数字科技有限公司安全事业部副总经理张建桁

其次是模型自身安全的挑战。谭晓生进一步指出，由数学思维主导构建的AI系统，缺乏对安全编码规范的重视，可能导致系统崩溃或被完全控制，从而可以导致篡改决策的风险。此外，AI本身缺乏权限管理和访问控制，易引发核心数据泄露风险。奇安信集团AI高级研究员江爱军补充认为，目前人工智能垂域大模型中的核心信息资产泄露风险；AI应用模糊传统软件逻辑层与数据层，打破权限控制，这是当前重要的风险点。

　　奇安信集团AI高级研究员江爱军

第三是趋同性与风险传染。西南财经大学中国金融研究院副院长董青马聚焦金融行业，揭示了AI应用的潜在系统风险：“当金融机构普遍采用大模型，使用相似的底层逻辑和基础语料库，会导致决策趋同的问题，缺乏生态的多样性。”同时，AI加速信息传播也使得风险传递和虚假信息扩散速度远超以往。中国电子首席科学家、中电金信研究院院长况文川指出，金融机构在利用生成式人工智能快速理解客户特质和交互数据以提供个性化服务的同时，也需要应对趋同性问题，即大家使用相似模型是否可能导致服务同质化，金融机构需要充分运用自己的私有数据、个性化语料、专业知识库以及与自身业务逻辑的结合，来体现出自己的竞争优势。

　　西南财经大学中国金融研究院副院长董青马

　　中国电子首席科学家、中电金信研究院院长况文川

最后是数据安全风险与算力瓶颈。中国长城市场合作部副总经理高晓飞直指当前我国人工智能面临两大痛点：AI训练和应用对数据的渴求突破了传统数据安全防线；同时，关键算力芯片（如高端GPU）的供应保障及国产AI软件生态的成熟度，构成国家层面AI安全发展的现实瓶颈。

　　中国长城市场合作部副总经理高晓飞

以“AI”筑盾，构建主动防御体系

面对AI带来的风险与挑战，安全防护面临范式的转变。与会专家建议用AI对抗AI风险。AI同样为网络安全防御带来革命性工具和方法。

首先是效率跃升。谭晓生分享了AI的积极面：“过去安全运维人员疲于应对日均数千万条告警，往往只能依靠规则强压告警，难免漏报与错报。现在，借助AI强大的推理与分析能力，能够高效处理海量告警，大幅提升防御效率和精准度，部分替代中低端安全分析师工作。”

其次是“智能对抗智能”新范式。联通数字科技有限公司安全事业部副总经理张建桁介绍了运营商的应对策略：面对云网基础设施面临的规模化、智能化攻击威胁，联通正构建‘主动防御’体系，核心就是以AI对抗AI，在自身安全运营体系中部署智能体。”他强调了运营商在“云网端”协同防护与快速溯源处置方面的独特优势。

最后是赋能安全运营与研发。江爱军指出，包括奇安信在内的网络安全厂商正积极应用AI技术应对新型攻击向量，优化产品研发工作的效率与成本，并赋能网络安全运营。

　破局之道：协同构建智能安全新生态

针对如何在AI时代筑牢安全防线，专家们提出关键路径。

“人在闭环”与责任明晰：况文川指出，必须在关键决策点（如涉及道德、重大风险）保留人工判断，“智能体适用于规则明确、重复性任务，但人仍是最终责任主体”。张建桁补充，需建立健全AI被劫持时的应急处置预案和责任追溯机制。

推进安全内生：况文川强调，安全应内生于AI系统设计和业务运营中。他提出“三明治”策略：严格区分公共训练数据、企业私有知识库和用户核心隐私数据，并通过物理或逻辑隔离，防止交叉污染与违规访问。江爱军则指出，网络安全厂商需审视产品工作流程是否适应AI变化，关注防护效果、效率和成本，推进安全内生。他还强调利用AI赋能企业研发、安全运营和服务，提升整体安全能力。

守住风险底线与自主可控：董青马呼吁在金融安全等关键领域，要守住系统性风险底线，首要任务是确保不发生系统性风险。此外，要确保AI的自主可控。AI是关乎未来国际竞争的国家级战略资源和武器。必须建立自主可控的AI体系，从源头（技术、数据、标准等）确保其安全可靠，不受制于人。高晓飞则强调产业链协同解决算力“卡脖子”问题的紧迫性。

本次圆桌讨论为应对人工智能时代的网络安全新变局提供了丰富的思想碰撞和实践指引。AI在放大攻击能力的同时，为防御体系升级提供新工具。为此，须通过AI对抗AI、管理重构、生态安全三层联动，在发展中平衡效率与风险。最终构建"可控的智能"，使技术服务于人的解放而非威胁人类安全底线。