AI发展与数据安全丨迪普科技参加中国安防数字化转型高峰论坛

为贯彻落实党的二十届三中全会《中共中央关于进一步全面深化改革、推进中国式现代化的决定》，有效推进中国安防协会《全国安防企业数字化转型三年行动计划（2024-2026）》。10月22日—25日，安博会期间，中国安防协会联合浙江省安全技术防范行业协会，举办了以“数字为核焕新发展”为主题的2024（第二届）中国安防数字化转型高峰论坛，本次论坛围绕数字化转型政策导向、产业热点、典型案例、实战应用等方向进行深入探讨。迪普科技参与此次论坛，并就人工智能技术赋能数字化转型升级中的安防风险问题，及企业数字化建设中数据安全治理体系落地实践等相关话题与在场嘉宾深入探讨。

人工智能发展

带来的安全风险

DPtech

新质生产力是推动高质量发展的关键，作为新质生产力的典型代表之一，“人工智能”的快速发展在赋能行业数字化转型升级过程中，势必会带来全新的安全风险。对此，迪普科技专家刘吉林表示：

近年来，人工智能技术保持快速发展势头，所带来的安全风险也不容忽视。从安全攻防角度看，有AI自身的安全风险和利用AI赋能安全的对抗风险，它们之间存在相关且互补的紧密关系。

首先是AI自身安全问题，从AI自身的安全防御角度看，包括AI模型的安全、AI数据安全、AI架构安全、AI攻防安全等防护设计；从攻击AI模型角度看，包括对抗样本攻击、数据投毒、模型逆向、属性推理等攻击形式。

其次是利用AI来赋能安全，从AI赋能安全防御角度看，包括利用AI来提升威胁检测效率、进行代码审计、开展安全运营、通过数据增强提高知识问答能力等；从AI赋能攻击角度看，黑客可以利用AI来生成钓鱼邮件、恶意软件、进行漏洞的自动挖掘等。基于上述4个角度的综合应用，人工智能风险还存在下述特点：

用户数据用于训练

数据隐私信息泄露风险

人工智能利用服务过程中的用户数据进行优化训练的情况较为普遍，但可能涉及在用户不知情情况下收集个人信息、个人隐私、商业秘密等，安全风险较为突出。如果这些数据泄露或被未经授权的人访问，个人隐私将受到严重侵犯。此外，如果黑客攻击AI系统获得这些数据，有可能导致更大的隐私和安全风险。

算法模型日趋复杂

输出结构的可解释性问题

由于深度模型算法的复杂结构是黑盒，人工智能模型天然缺乏呈现决策逻辑进而使人相信决策准确性的能力。为提升可解释性，技术上也出现了降低模型复杂度、突破神经网络知识表达瓶颈等方法，但现实中效果有限。

可靠性问题仍然制约

人工智能垂直领域应用

由于现实场景中环境因素复杂多变，人工智能难以通过有限的训练数据覆盖现实中垂直领域场景中的全部情况，因此垂直领域模型在受到干扰或攻击等情况下会发生性能水平波动，严重时甚至会引发安全事故。

滥用和欺诈

扰乱生产生活安全秩序

人工智能在对加速社会发展、提升生产效率等方面产生极大促进作用的同时，AI系统的应用过程中可能存在隐私盗取、欺诈等问题。例如，利用AI技术进行网络钓鱼、身份盗窃等犯罪行为；或者利用AI技术伪造虚假信息、进行金融欺诈等。

此外，AI衍生的应用安全问题，在交通、医疗卫生、制造等领域场景中，AI系统的故障或误判甚至可能直接对人类生命财产安全造成威胁。例如，自动驾驶汽车可能因为AI系统的故障而引发交通事故；医疗AI系统可能因为误判而导致错误的诊断或治疗方案。

面对人工智能发展带来的挑战和风险，需要采取一系列措施来加强AI的安全性和可靠性。例如进行输入训练数据的预处理、强化模型的鲁棒性、采用对抗样本检测技术等，来提高AI系统的安全性和稳定性，同时，加强AI技术的安全监管和治理制定，从而降低AI自身及其衍生应用的安全和可靠风险。

新时代下安防企业的数字化

转型发展中如何进行数据安全的建设

DPtech

针对安防企业数字化转型发展，刘吉林表示，数据作为第五大生产要素，是驱动数字经济的源动能，为了促进数据安全合规高效流通使用、赋能实体经济，充分实现数据要素价值，需要筑牢数字安全屏障。数据安全治理是发挥数据作为生产要素乘数作用的必要前提，也是发展新质生产力的本质要求。

当前，数据要素的相关理论、实践、认知尚处于探索阶段，而数据要素本身具备演进性、复杂性、系统性、长期性等特点，就要求企业必须从顶层视角设计和建设数据安全治理体系；为了让数据用起来、活起来，通过各方协同合作，守好安全底线，更需要从安全运营视角落实建设方案。基于数据跨业务、跨部门、跨组织、跨境流动等特点，安防企业数据安全建设可从以下几个方面入手：

数据安全治理顶层规划设计

要先做好数据治理，再融合数据安全治理；要先做好网络安全，再融合数据安全能力。

理清数据全生命周期，从数据源头开始治理

数据安全管理的源头，应从软件规划设计与安全开发开始，再结合数据的生命周期安全。

基于数据安全运营做闭环管理

基于安全技术(平台体系、产品工具）、安全管理（组织制度管理、运营流程）、人员（服务能力、服务团队）三大核心要素的共同组合，对数据安全事件做到闭环管理和量化管理；同时还可基于数据治理顶层架构思维，分阶段落实基础合规工作，实施建设数据安全专项工作。

新质生产力是推动高质量发展的关键，伴随着人工智能技术的蓬勃发展和数字化进程的不断加速，各行业数字化转型也面临新的风险和挑战。多年来，为更全面、深入地赋能网络安全行业发展，助力各行业用户数字化转型，迪普科技深耕人工智能技术研究和数据安全技术创新，连续两届斩获中国人工智能大赛最高等级证书，获得首届中国数据安全大赛金奖，并将研究成果积极付诸实践，相关安全产品和解决方案已广泛应用于各行业用户，为建设“网络强国”“数据强国”贡献了积极力量。

END