天融信：DeepSeek行业应用加速，大模型安全短板亟待补齐！

目前，DeepSeek系列大模型正以惊人的速度渗透至各行各业。据不完全统计，目前已有超过200家头部企业完成DeepSeek技术接口的集成部署，涵盖智能硬件、汽车、传媒、互联网、半导体、教育、文旅、生物医疗等各个行业。近日，多地政务系统接入DeepSeek，进一步为大模型的应用提供了新场景。随着大模型应用的广泛普及，其高效能和易用性背后也面临着内生安全、应用安全等诸多风险挑战，大模型安全保障也将迎来新的发展机遇。

内生安全风险

内生安全风险指人工智能自身缺陷和不足引发的风险，包括模型算法安全、数据安全、系统安全等。例如，大模型需处理大量敏感数据，如用户搜索记录、社交媒体互动及交易信息等，这使其面临数据泄露和隐私侵犯的风险。同时，模型自身可能存在缺陷或后门，容易成为攻击目标。一旦模型参数和权重被泄露，不仅会导致知识产权损失，还可能被恶意复制或篡改，进一步加剧风险。此外，针对模型的特定攻击（如投毒攻击）可能操控输出结果，干扰正常业务运行。

应用安全风险

应用安全风险是指因人工智能的不当使用、滥用甚至恶意利用而产生的安全风险，涵盖网络域、现实域、认知域和伦理域等。大模型系统往往作为知识载体，支撑人类认知决策，尤其在网络域的信息内容安全风险方面，大模型生成的内容可能引发虚假信息传播、歧视偏见、隐私泄露、侵权、有害内容等问题，进而威胁公民生命财产安全、国家安全、意识形态安全和伦理安全。

大模型安全防护产品与评估服务

基于在安全领域多年的研究，针对大模型系统，天融信推出专用大模型安全评估产品的同时，防火墙、WAF、网络防泄露等产品也已全面升级，可针对性解决大模型系统的网络安全、应用安全、数据隐私泄露、漏洞防范等常见问题。天融信大模型安全防护产品与评估服务，已支持DeepSeek、通义千问、Kimi、文心一言、豆包等主流大模型，为大模型安全运行提供坚实安全保障。

针对网络安全防护

通过AI系统的边界防护能力，为企业提供全面的网络层安全防护，涵盖网络接入控制、访问权限管理、流量与会话控制等。通过流量业务预警、抽样分析和模式过滤等技术手段，快速识别并阻断攻击流量，并利用双向僵木蠕检测功能，快速识别并阻断僵尸网络攻击，确保大模型应用服务的稳定运行。

针对模型注入防护

通过内容生成监控，利用协议解析引擎与多种识别技术（如关键字、正则表达式、机器学习算法等），实时过滤违规信息。同时，构建提示注入训练数据集，增强对优化提示指令及对抗攻击模板的检测能力，防止非法内容发布或参数泄露。

针对数据隐私泄露

采用深度内容识别技术，结合关键字检测、OCR图像文字检测等方式，全面监测敏感信息并及时阻断违规行为。通过成员推理攻击防护机制和用户行为分析，降低隐私泄露风险。同时，梳理并分类API接口，提供可视化监控界面，实现数据流动的全程跟踪与保护。

针对Web威胁防护

通过智能算法，精准识别并迅速过滤掉海量的虚假流量，有效抵御前端SQL注入、跨站脚本（XSS）攻击、CSRF（跨站请求伪造）以及DDoS攻击等各类Web攻击威胁，确保服务器的稳定运行，为用户带来流畅、无中断的优质体验。

针对模型脆弱性风险

基于大模型安全评估工具，通过深度学习框架，构建大模型专项检测特征库及内容安全测评样本集，针对大模型的有害内容生成、安全漏洞利用、供应链污染等应用安全风险，实现覆盖“开发阶段-部署阶段-应用阶段”的全链路安全检测能力。

大模型安全评估服务

依托天融信专家服务团队，通过漏洞扫描、基线核查、渗透测试、代码审计、容器逃逸测试、应用系统代码审计等服务内容，对大模型系统环境安全进行评估，结合针对大模型的非授权代码执行、数据泄露、模型API接口权限校验、会话权限等测试手段，对大模型系统自身安全进行测试。

随着国产化应用的火爆，不法分子“蹭热度式”地进行网络入侵和网络欺诈，极有可能再次成为下一个火爆的国产化新技术应用面临的网络安全威胁，也为我国新兴高科技行业应对网络安全风险敲响了警钟。

在一次光明网的采访中，天融信科技集团助理总裁王媛媛提到：“综合来看，DeepSeek攻击的流量规模在全球DDoS事件中排名前列。”无独有偶，此前《黑神话：悟空》全球上线后，也曾遭遇海外60个僵尸网络大规模攻击，网络攻击对热门应用尤为“青睐”。

当下，中国国产大模型正通过提质增效的方式锚定AI普惠“新坐标”，形成从技术到应用，再从应用反哺技术创新的完整闭环。随着大模型技术从实验室走向产业纵深，大模型将加速向垂直领域渗透，成为产业智能化升级的“数字神经元”。在此进程中，其安全性与可控性已成为实现规模化应用的核心命题，安全与智能的深度融合将成为突破技术壁垒、实现可持续发展的关键。

未来，天融信将持续深化对大模型内生安全风险与应用安全风险的研究，通过融合专项防护与基础安全技术，并结合安全服务与持续运营，将安全贯穿于大模型的设计、研发与应用全生命周期，打造大模型安全“识别–保护–检测-响应–恢复”的可持续迭代，保障大模型技术赋能千行百业。