众网安企业亮相2024数博会 为数字经济建设注入安全动力

近日，2024中国国际大数据产业博览会（以下简称“数博会”）在贵州省贵阳市举办，围绕“数智共生：开创数字经济高质量发展新未来”年度主题，设置数字产业化、产业数字化、数据价值化、数字化治理、数字新基建、数据安全六大版块展览，并配套丰富的系列活动和成果发布，全方位、多角度展示大数据领域新技术、新产品、新方案、新应用，搭建产业发展的桥梁纽带。

数据安全作为数博会的重要展览主题之一，也是数字经济建设征程中不可或缺的基座，在本届数博会上，来自网络安全行业的厂商和学者专家积极参与，为健全数据安全治理体系，推进社会数字化进程献智献策。下面，请跟随安全419的步伐，一同观摩本届数博会活动期间都有哪些数据安全相关的前沿思考与技术成果。

中国工程院院士、中国互联网协会专家咨询委员会主任邬贺铨出席2024数博会，以“AI时代的数据安全”为主题作主旨报告。他指出，生成式大模型基于统计模型和模式识别，局部的上下文关联并不等于全局的合理性和符合自然规律的因果性，而且因长尾场景数据稀少，临界状态训练缺失，导致会出现低级错误。数据可能受到干扰，AI大模型在训练时也会受到无意或恶意的诱导，会使AI误判。关于提高AI可信性的方法，他提出，数据质量控制，使用高质量多样化的数据训练，算法优化和模型评估改进，定期审查和测试，有监督学习建立思维链。迁移学习和反事实数据测试，开展伦理审查，特别是对可能产生重大社会影响的应用进行事先审批，人工干预与审核，帮助用户理解AI的运作方式和潜在风险，用户反馈与持续改进，利用区域截图、放大缩小等预处理发现数据被篡改或AI被滥用。

360数字安全集团总裁胡振泉出席2024数博会，其指出数据安全风险主要源于两个方面：一是数据收集和处理阶段的不规范操作，可能导致隐私数据的泄露；二是大模型的内部机制像一个“黑匣子”，生成的内容难以预测，增加了隐私泄露的可能性。为了应对大模型带来的一系列数据安全挑战，胡振泉提出，首先，需要对大模型训练数据的全生命周期进行严格的监控和管理，对数据语料进行更严格的智能治理。其次，他提倡通过“以模制模”的方法，即利用人工智能技术来解决人工智能带来的数据安全问题。具体而言，要构建专用的、规模较小的专业大模型，对大模型的输入输出内容进行双向安全监测。对于未来的大模型数据安全趋势，胡振泉建议企业应根据自身业务情况，采取“小切口、大纵深”的策略，精准定位业务场景，逐步提升数字化水平，以小步快跑的方式实现企业的全面AI化。

全国政协委员、全国工商联副主席、奇安信集团董事长齐向东出席2024数博会，提出了“数据三角”的概念，包括数据的生产域、应用域和流通域，每个领域都面临着不同的安全问题。第一，生产域，网络环境相对封闭，最高的风险是内鬼盗窃，最大隐患是“三员”：管理员、技术员、操作员。第二，应用域，应用环境全面开放，最高的风险是黑客攻击和后门，最大隐患是API。第三，流通域，比较依赖第三方平台，最高的风险是数商违规，最大的隐患是技术平台漏洞。由于“数据三角”是互为支撑、互相影响的，其安全问题也不能孤立解决。齐向东提出，构建统一的体系化安全体系，覆盖“数据三角”的每个域，是确保数据安全的关键。

奇安信“高效动态云安全防护与API精准检测技术”获评2024数博会十大领先科技成果，据介绍，云设施主要面临云上数据泄露风险、云API的不可靠性风险、虚拟化系统自身漏洞风险、云内恶意软件传播风险以及安全能力难以动态扩展五大安全风险，该获奖技术具备的关键技术创新点包括，基于行为和流量的API风险检测，基于内核态感知的东西向流量精准检测，基于多维度隔离的虚拟机逃逸防护，云内异构安全能力动态编排。

亚信安全高级副总裁兼CTO陈奋参加2024数博会“数据安全”交流活动，其表示，随着人工智能技术的融入，AI与数据安全的平衡，成为产业变革的关键，对于“平衡”的把控应该融入在大模型训练和应用的各个阶段。模型训练时期，数据安全直接影响大模型安全，如果对于隐私数据不加过滤就投入训练，后续可能造成数据泄露问题，如果大模型训练数据受到投毒攻击或恶意篡改，可能给攻击者留下后门。大模型使用时期，大模型形成了数据的新型暴露面，需要基于权限逻辑，进行分类分级安全防护，对模型的存储、访问进行适当的隔离与限制，形成有针对性的数据安全防护方案。很多企业在使用开源或者公有云的大模型时，会担心提示词存在数据泄露风险，因此需要在企业内部建立提示词规范，防止把敏感问题直接传到开源平台和公有云上。

观安信息创始人、董事长张照龙出席2024数博会“数据安全”交流活动，他表示，在数字化转型加速的今天，数据跨境流动的安全问题已成为全球关注的焦点。面对复杂多变的国际环境和技术挑战，观安信息始终致力于技术创新，特别是在数据跨境安全领域。最新研发的智能风控系统，通过大数据分析以及AI算法，实现了对跨境数据流动的全链条监控与智能预警，该系统不仅能显著提升数据传输的安全性，还能根据运营商、政府等不同行业的特定需求，定制化设计数据保护方案，确保每一环节都符合行业安全标准，助力企业在全球化进程中稳健前行。

中国电科首席科学家、中国网安总工程师饶志宏出席2024数博会，在相关主题演讲中指出，数据安全是数据市场的基石，已脱胎大数据和网络安全成为独立的赛道，只有解决数据安全问题，才能充分激发数据市场活力，实现数据协同利用，释放数据价值，推动新质生产力发展。中国网安从数据市场模型的数据提供方、使用方、运营方和监管方等四大利益相关方入手进行安全风险分析，提出打造数据安全基础设施，面向数据要素流通的安全和监管需求，以技术融合创新，基于区块链、隐私计算、数据安全分级、安全审计等多种技术手段，构建『一账式』管理、『密态化』共享，『标签化』管理、『全流程』审计的全国性数据基础服务，在提供有效监管和控制流转边界的同时，促进数据价值释放，为我国的数字经济发展保驾护航。

数字认证研究院院长夏鲁宁于2024数博会分享“基于零信任以密码为核心的数据安全体系”主题演讲，从现状、技术、应用不同角度分享数据安全新一轮创新实践。其表示，虽然我国已经将数据安全治理提升至法律高度，但是数据安全的形势仍不容乐观，核心问题之一就是来自“数字信任”的挑战——随着数字经济的发展，信息系统的复杂度日益提升，数字信任问题变得越来越复杂化、动态化，传统网络安全思维不足以应对当前数字信任问题。在这样的形势下，零信任的理念应运而生。夏鲁宁指出，密码是实现零信任框架的核心基础技术，数字认证基于密码技术，建立了身份信任、网络与流量信任、数据生命周期信任、应用信任。