人工智能作为新一轮科技革命的核心技术，正成为大国博弈的重要阵地。那么人工智能将为传统产业转型升级带来哪些影响？当前人工智能发展面临哪些严峻的安全问题，如何解决？针对这些问题，在全国两会召开之际，记者采访了全国政协委员、奇安信集团董事长齐向东。“人工智能是引领未来发展的颠覆性技术和前沿技术，也是注定要走进千家万户的关键共性技术。”齐向东表示，大力发展人工智能，能切实增强我国在数字经济、高水平人才引育和产业链供应链完整性等方面的优势，提升我国在国际技术标准与安全治理等领域的话语权。齐向东表示，在传统产业转型升级过程中，人工智能发挥着“领头雁”效应。作为传统产业数字化转型中重要的变革驱动力量，人工智能已在研发、生产、管理全环节广泛应用，涌现出上百种场景和模式。但是，人工智能也大幅拓展了网络攻击的烈度和广度，网络攻击窗口不断扩大、网络攻击手段不断升级、网络犯罪门槛持续降低，给传统产业发展带来了新风险、新挑战，引发了社会的高度关注。在齐向东看来，人工智能发展面临的安全问题大致可以分为三类：第一类是人工智能大模型自身的安全问题。开发方面，开源大模型要重点防范代码缺陷和预留后门等问题；应用方面，要防范“内鬼”对训练数据投毒，进行模型篡改、配置篡改；数据方面，要小心内部配置错误和弱口令等造成的数据库暴露；基础环境方面，要重点关注云、API、传统设备漏洞。第二类是利用人工智能开展网络攻击的问题。人工智能促进了网络攻击手段的更新迭代，“饱和式”攻击成为可能，攻击者可以瞬时发动海量攻击打垮已有的网络安全体系。人工智能还提升了“以假乱真”的能力，深度伪造、认知战、“钓鱼”等威胁加剧。攻击者可利用人工智能“换脸变声”输出虚假信息，开展电信网络诈骗，或输出背离主流价值观的内容危害认知安全。第三类是通过攻击人工智能引发的“网络攻击大爆炸”。未来人工智能会成为社会的基础设施，当大模型嵌入智慧城市、工控系统、智慧政务等关键领域时，会放大漏洞等传统安全威胁，一旦人工智能大模型遭到攻击，可能牵一发而动全身，引发社会服务中断、生产停滞、隐私数据泄露等安全事件。针对这些安全问题，齐向东表示，要从技术保障、制度保障、成果应用三方面入手，系统提升安全能力，确保人工智能安全发展。
要建立适配大模型的纵深防御体系，筑牢人工智能的安全根基。
最近，奇安信提出“大模型安全红域”概念，通过构筑覆盖终端、应用、数据、模型、红域的多维度核心防护能力，打造适用于人工智能的立体纵深防御体系，实现“对外防攻击、对内防内鬼”，为人工智能大模型安全稳定运行保驾护航。要制定大模型安全强制合规要求，夯实人工智能安全发展的制度保障。
要明确大模型安全的组织架构，界定安全主体责任，对基础安全、数据安全、应用系统开发安全、运行安全等方面提出清晰的技术保障要求。同时，做好大模型运行安全监测和内容风控，定期开展安全评估测试，完善应急响应机制，一旦发现异常行为或潜在的安全事件，第一时间进行处置，将安全威胁消除在萌芽状态。要推动“AI+安全”创新成果落地，走好提升安全能力的必经之路。
随着人工智能应用的进一步铺开，要鼓励更多产业用上、用好“AI+安全”创新成果，提高千行百业的网络安全防护效能。文字新闻：学习强国
还没有评论，来说两句吧...