就在被称作“中国版OpenAI”的DeepSeek横空出世,并引发全球广泛关注之际,DeepSeek近来遭遇了一场极为严重的数据泄露事件。
DeepSeek遭受数据泄露
AI时代数据安全呼唤“新底座”
来源Wiz
2025年1月30日,美国纽约的网络安全公司Wiz曝光了DeepSeek的数据泄露问题。Wiz在评估DeepSeek的外部安全态势时,发现了一个可公开访问的ClickHouse数据库,且未经身份验证。其中包含超过100万行的日志流,以及大量聊天记录、后端数据和敏感信息,如API密钥等,并允许完全控制数据库操作。
这一事件不仅让DeepSeek的用户面临个人信息泄露风险,也给数据安全行业带来巨大警示:
对个人而言,用户的隐私被侵犯,可能会收到各种骚扰信息、遭遇诈骗,甚至个人财务安全也会受到威胁,例如用户的API秘钥因泄露而被滥用,导致用户承受高额的API调用费用。
对企业而言,企业的声誉受损,客户信任度下降,可能导致业务流失,股价下跌。此外,还可能面临监管机构的巨额罚款和法律诉讼,给企业带来沉重的经济负担。
对社会而言,数据泄露事件导致信息安全的信任度降低,人们在网络活动中更加谨慎,甚至对一些正常的数据收集、使用行为产生抵触,阻碍大数据、人工智能等依赖数据的技术和产业的健康发展,也给网络安全防护带来更大压力,增加社会在信息安全保障方面的成本投入。
从数据安全角度来看,本次DeepSeek的ClickHouse数据库数据泄露事件主要存在以下数据安全问题:
安全管理缺失,在访问控制策略制定与执行上存在漏洞;
安全意识不足,缺乏系统的数据安全培训,导致员工无法敏锐察觉潜在安全威胁,也不了解数据安全保护的重要操作规范;
安全审计与监控机制不完善,内部缺乏对数据库脆弱性与操作行为的实时监控,未能及时发现并预警非法访问行为。
随着DeepSeek将AI应用的技术门槛与经济成本的降低,各行业、企业结合自身需求与特征的AI智能应用如雨后春笋般发布,AI智能应用场景日益广泛。安全是发展的基础,数据作为AI智能应用的基石,在通过AI智能应用对数据进行深度利用的同时,需确保数据的可用性、完整性、保密性,建立起AI智能应用的数据安全底座,保障AI智能应用的高水平发展。
AI应用场景数据安全风险分析
识别潜在风险
在AI应用场景下,昂楷科技将其划分为用户访问层,大模型应用层,私有知识库和外部数据、能力模块,具体分析各模块及模块间潜在威胁。
大模型应用层API、客户端接口的潜在风险:身份盗用、API滥用、攻击、API响应泄露、使用Al应用导致的信息泄露等。
大模型应用层部署各类应用时的潜在风险:应用体运行数据泄露,应用体开发、测试、运维时数据访问权限管控与防泄露等。
大模型应用层调用外部大模型API接口时的潜在风险:个人隐私、商业秘密泄露等。
私有知识库中的潜在风险:敏感数据和流动态势不清,内部人员非法访问或泄露数据,攻击者通过应用层窃取、篡改或删除数据,未经授权访问等。
AI应用场景数据安全建设思路
基于标准 高于标准
我国当前在数据安全领域的法律、法规、制度、规范日益健全,AI应用场景下的数据安全治理建设应以“基于保准、高于标准”的思维进行顶层设计,围绕AI应用场景下所面临的一系列数据安全挑战,昂楷科技凭借专注数据安全治理领域16年的技术积淀和5000+客户实践,建构出了全方位的数据安全体系框架,助您轻松应对AI应用场景下的数据安全治理挑战。
昂楷科技AI应用场景数据安全体系框架,严格遵循国家法律、法规、规章制度及标准体系要求,围绕安全组织、安全管理规章制度、安全技术保障、人员能力、安全运营、安全监管等方面,覆盖AI应用场景下知识库、应用体运行、内容及接口等安全领域,全方位保障 AI 应用场景下的数据安全。
AI应用场景数据安全技术体系建设
打造全流程数据安全闭环
昂楷科技AI应用场景数据安全技术体系建设,聚焦数据库接口与API接口的安全,主要从数据识别、数据库状态及漏洞监控、接口行为监测、数据库行为管控、API接口数据流转管控等多个维度进行,搭配数据安全态势感知平台的应用,完美实现对整体数据安全风险的实时预警、风险处置、深度分析,以及整体数据安全运营支撑,全面提升数据安全防护、监测、预警、处置全流程闭环管理水平。
数据
分类分级
参照GB/T 43697-2024数据安全技术-分类分级规则、行业法规、标准,对AI应用中私有知识库、AI应用体数据库中的数据进行全面梳理、分类分级,同时建立运营机制,以保证持续对数据“可视”,支撑数据安全策略配置。
接口
行为监测
对数据库接口及API接口进行全面检测,结合数据安全级别定义,利用数据安全管理平台进行综合关联分析,以识别AI应用场景中数据库系统接口及对外服务API接口的安全风险,如陌生人访问,大数据量获取等,全面提升态势感知、风险研判能力。
数据库
运行状态、漏洞监控
对私有知识库的存储系统、AI应用体运行支撑的后台数据库系统,进行安全漏洞态势和运行指标态势综合展示,提供运维人员对数据库系统脆弱性和运行状态的统一监控,及时发现潜在的运行风险及安全漏洞。系统内置的对比、走势分析报告,可为安全运维人员提供脆弱性修复情况核查和扩容规划提供数据支撑。
数据库
行为管控
构建数据库系统前端最后一道防线,防止因安全边界失效导致私有知识库、AI应用体后台数据面临安全风险和隐患;依照“职责权限化、权限最小化”原则,对各类数据库行为权限进行管控,对数据库的攻击、后台越权高危行为进行实时拦截和阻断。
对AI应用对外提供服务及调用外部API时的流入流出数据进行实时过滤、脱敏、阻断,防止重要数据、敏感数据违规流动;同时可依据策略对流出数据动态嵌入水印,提升数据溯源能力,当发生数据泄露事件时,可快速定位到泄露源头,降低事件影响。
数据安全
态势感知
采集各安全模块的数据安全事件日志,对安全威胁事件进行标准化、去重、合并和关联分析,洞察整体数据安全态势,实现数据安全风险防御主动化,打破数据安全能力组件的孤岛效应,实现数据安全一体化管控。
数据安全助力千行百业 “数智蝶变”
AI 应用场景正以前所未有的创新活力蓬勃发展,不断拓展的新领域、新方式和新需求。作为AI数字浪潮的亲历者,昂楷科技现已扎根中国20+城市,累计服务5000+客户,多次获得包括Gartner、IDC等全球顶级第三方市场研究机构高度认可,我们将继续紧跟AI、大模型、数据库等新技术、新应用,以不断创新的数据安全治理产品与解决方案,助力千行百业数据安全“智慧蝶变”。
基于当前应用场景的数据安全解决方案,在应对复杂多变的 AI应用场景时,可能与您实际场景存在一些差异,如果您对数据安全有任何疑问、见解,或是在实际工作中遇到了棘手的问题,又或者您对我们分享的内容有更深入了解的需求,都欢迎您联系我们!
昂楷科技视频号
精选~
▽
关注昂楷科技微信公众号
精彩资讯永不错过~
▽
推荐站内搜索:最好用的开发软件、免费开源系统、渗透测试工具云盘下载、最新渗透测试资料、最新黑客工具下载……
还没有评论,来说两句吧...