安恒信息CTO刘博在紫金山实验室作报告，拆解大模型安全治理实践路径

11月27日，第五届网络空间内生安全学术大会暨第八届“强网”拟态防御国际精英挑战赛在南京举行。由紫金山实验室、浙江大学区块链与数据安全全国重点实验室、南京信息工程大学计算机学院、网络空间安全学院共同举办的人工智能安全论坛上，安恒信息CTO刘博受邀做报告，以“让智能更安全”为主题，与产学研各界的专家学者与行业领袖分享安恒信息大模型安全的思考与实践。

刘博提出，当前，大模型应用生态蓬勃发展，其安全短板随规模化落地也逐步显现。从安全测评实践与典型安全事件来看，数据安全、内容安全、业务安全及供应链安全等核心议题愈发凸显，已成为制约AI产业高质量发展的关键瓶颈，其中提示词注入、数据泄露与软件供应链风险位列三大核心风险。从大模型建设和应用过程全生命周期视角审视，既存在面向公众场景的外部暴露风险，也包含组织内部的潜在安全隐患，而从监管治理层面思辨，人工智能相关法规标准的核心导向已明确，即构建“安全可控、创新有序”的治理框架，以数据主权、内容标识、算法透明为三大支柱，以备案测评为核心技术抓手，在严守风险底线的同时，引导技术创新向善发展。

面对这一时代挑战，安恒信息给出了针对性的破局之道，构建“四横四纵”一体化治理框架，横向贯通技术、管理、流程、组织四大维度，纵向覆盖战略规划、标准规范、监督审计、持续改进四大层面，形成全面覆盖、纵深防御的 AI 安全治理体系，实现效率与安全的动态平衡。

依托这一框架，安恒信息打造了全栈式大模型安全解决方案，通过系列核心产品落地实践为各行业网络安全、数据安全保驾护航：数据安全系列（数盾）聚焦语料清洗核心需求，整合分类分级、数据脱敏、数据审计等工具矩阵，搭载“传统引擎 + AI引擎”双驱动的语料安全检测架构，支持多维度语料安全校验，结合隐私保护计算技术，赋能行业大模型可信训练与推理，筑牢训练阶段安全防线；大模型风险评估系统（智鉴）集成基础安全评估、输出内容检测、系统安全检测等扫描功能，构建贯穿语料安全、内容安全、运行环境的全生命周期检测体系，覆盖AI系统从开发到应用的全流程安全核查，通过精准风险评估与内容合规检测，保障生成内容安全可控；作为专注大模型场景的WAF产品，大模型安全防火墙（MAF）融合语料内容防护、动态数据脱敏、代理访问控制等核心能力，叠加违规内容阻断、调用行为审计、访问权限管控、对抗攻击检测、敏感数据脱敏、审计溯源等关键功能，为大模型使用阶段提供全方位安全防护，在金融行业实践中，该产品曾于2周内监测550万+次大模型访问，精准识别114起隐私泄露事件及1 起违规使用行为；大模型安全防护系统（智盾）定位大模型EDR核心产品，覆盖资产及主机安全、运行时内容防护、运行时语料防护等全链路需求，实现从语料输入、模型输入输出到事后审计封禁的全流程安全管控，保障大模型运行阶段的持续安全；办公应用防护（办公智盾）作为AI安全UES解决方案，整合零信任架构、AI应用管控、数据防泄露等功能模块，聚焦大模型应用环境安全与数据防泄露核心诉求，为政企客户搭建全场景安全防护体系，助力大模型产业在合规轨道上稳健前行。