两会聚焦|齐向东：人工智能成长的烦恼这样破解

人工智能“成长的烦恼”这样破解

今年，国产大模型DeepSeek的横空出世引发了广泛讨论，颠覆了传统的人工智能创新模式，加速推动人工智能技术向千行百业落地。犹如一阵春风，以大模型为代表的人工智能技术正在深刻重塑生产生活方式和科技创新模式。

然而，随着“人工智能+”的开启，大模型所面临的、带来的安全挑战也日益严峻。如何保障人工智能时代的网络空间安全？人工智能“成长的烦恼”如何破解？全国政协委员、全国工商联副主席、奇安信科技集团董事长齐向东表示，将重点关注此方面内容，期待能够用一些切实可行的举措，为人工智能安全发展贡献新力量。01

2022年全国两会的主题是什么？羊城晚报：DeepSeek横空出世，您怎样看待人工智能带来的进一步影响？

齐向东：人工智能不断突破创新，“人工智能+千行百业”将催生出大量新场景和新业态，也会带来全新的安全问题。

作为传统产业数字化转型中最重要的变革驱动力量，人工智能已在研发、生产、管理全环节广泛应用，涌现出上百种场景和模式。但是，人工智能也带动网络攻击的烈度、广度大幅提升，网络攻击窗口不断扩大、网络攻击手段不断革新、网络犯罪门槛持续降低，给传统产业发展带来了新风险、新挑战，引发社会关注。

尽管面临艰巨的挑战，但作为网络和数据安全领域的领军企业，我们有信心也有决心解决它们。我们只要聚焦主业、做深主业，以科技创新为引领，心无旁骛地往前走。

羊城晚报：在数字经济建设的浪潮中，人工智能有哪些“成长的烦恼”？怎样破解？

齐向东：创新是第一动力，安全是底线要求。“人工智能+”驱动新质生产力跃升，伴生的新型安全威胁不容忽视。智慧金融、智能制造、智慧交通等新场景的涌现，也让数据泄露、漏洞利用、“深度伪造”等安全风险加剧，网络攻击的频度和烈度激增。

针对这些安全问题，我认为，要从技术保障、制度保障、成果应用三方面入手，系统提升安全能力，确保人工智能安全发展。其中，要推动“AI+安全”创新成果落地，走好提升安全能力的必经之路。

尤其是在政策方面，建议通过出台大模型网络数据安全强制合规要求等文件，对企业在人工智能时代做好安全防护工作给予清晰指引；鼓励产业内定期开展网络和数据安全“体检”；设立专项基金促进“AI+安全”创新成果落地，提升智慧城市、智慧能源、智慧金融等新兴场景的安全防护效能。

羊城晚报：DeepSeek走红之后，AI创新“草根化”的趋势越发明显。你怎样看待这一趋势和企业间的合作？

齐向东：中国有两个地方的民营经济非常活跃，一个是长三角，一个是珠三角。很大一部分原因在于，这两个地方民营企业的补链、强链工作做得非常好。我们正处于新一轮技术革命爆发的年代，新技术层出不穷，未来专业分工会越来越细。以前有句老话是“三天不学习就会落后”，特别适合用来形容今天这个时代。

春节期间，新作品、新产品层出不穷。电影《哪吒2》走红，紧接着就是DeepSeek出圈。我本来以为可能科技圈的人更关注，但发现从乡村到城市、从小孩到老人都在谈论、使用DeepSeek。这说明人们对科技创新的渴望和追求是如此强烈，也推动着我们科技创新工作者奋斗。

在这个时代，如果企业不能做专做精、小切口深挖井，那么企业取得的优势都是暂时的，瞬间就可能失去，沦为失败者。一生中能遇到这么伟大的时代非常难得，我们能在这个时代奋斗非常幸运，更要抓住机遇、努力奋斗。

开展体系化人工智能大模型安全防护

“政府工作报告提出‘更好统筹发展和安全，坚持在发展中逐步化解风险，努力实现高质量发展和高水平安全的良性互动’，为人工智能时代的网络安全建设工作提供了坚实指引。”全国政协委员、全国工商联副主席、奇安信集团董事长齐向东建议，开展体系化的人工智能大模型安全防护，筑牢安全底线。

齐向东说，以大模型为核心的人工智能技术是创新范式变革与产业升级的关键引擎，然而技术跃升与安全风险始终伴生演进，数据安全、应用安全、基础环境安全、大模型自身安全等挑战加剧。

以数据安全为例，大模型在训练、推理、使用过程中涉及海量数据，通过数据投毒、数据污染等手段，会使大模型输出背离主流价值观或包含事实性错误的内容。一些不法分子还会借助提示词注入、劫持、爬虫等手段，窃取大模型用户重要信息、敏感数据。

齐向东建议，开展体系化的人工智能大模型安全防护，建立适配大模型的纵深防御体系，从技术层面全面排查加固人工智能大模型基础设施，形成覆盖终端、应用、数据、大模型、算力与基础设施的多维度核心防护能力。同时，重点打造大模型数据安全“双控机制”，一方面，对输入侧数据进行筛查和消杀，并实施严格的访问控制措施，做好从数据喂养到内容生成的全链路安全管控；另一方面，强化输出侧控制，有效防范“认知污染”，通过完善大模型安全“监管沙盒”机制，在政务大模型等关键领域大模型上线前开展深度测试，强化对潜在风险的预警和控制。

综合新华社经济参考报、侠客岛、羊城晚报