近日,在备受瞩目的第九届“强网杯”全国网络安全挑战赛中,绿盟科技凭借创新的“天璇-大模型安全评测&防护主动免疫解决方案”,从157支参赛队伍中脱颖而出,成功斩获创新创业专项赛一等奖!这一殊荣不仅是对绿盟科技在AI自身安全领域技术实力的高度认可,更标志着我们在大模型安全检测及防护技术上的领先地位。
“强网杯”作为全国网络安全领域的顶级赛事,自2015年创办以来,始终致力于打造国家网络安全赛事的标杆品牌。本届大赛由中央网信办、河南省人民政府指导,河南省委网信办、河南省教育厅、郑州市人民政府、网络空间部队信息工程大学、郑州大学、中国网络空间安全协会联合主办,汇聚了来自全国高校、企业和机构的顶尖网络安全力量。
天璇方案:AI安全的守护者
在人工智能技术飞速发展的今天,大模型已成为企业发展的核心引擎。然而,传统网络安全边界正在失效,安全挑战发生了根本性转变。“天璇”方案专为解决AI时代的大模型自身安全难题而设计。“天璇”方案基于绿盟核心产品大模型安全一体机,通过构建安全“评估”与“防护”两大体系,打造AI全生命周期主动免疫方案。评估方面,方案涵盖生成内容合规检测、供应链安全漏洞扫描及深度伪造鉴别;防护方面,则通过预处理和后处理的双阶段机制,集成多链路检测引擎,对输入和输出内容进行实时过滤,形成从输入到输出的闭环防护体系,全面应对各类安全风险。
测评&防护一体化免疫体系架构
技术创新1:全维动态评估,感知之眼
全维动态评估技术是方案的“感知中枢”,提供一套基于提示词的LLM生成内容安全解决方案,核心是融合多模态检测与行为分析能力,实现对AI新型风险的精准识别。天璇的评估体系具备三大特点:一是评估维度全,涵盖各类合规测试、安全测试,还创新加入红队测试、语料评估和深度伪造检测;二是评估方式活,实时监测模型应用在不同场景下的行为变化,结合用户交互数据、流量数据、模型输出数据等进行综合分析,通过行为异常识别及时发现新的未知威胁;三是评估效率高,能够通过自动化评估工具和自定义用例库,实现评估流程的全自动化。
技术创新2:防护自主编排,决策之手
防护自主编排技术是方案的“执行中枢”,支持由评估结果实时驱动防护策略更新,实现“评估-决策-执行”的快速响应。创新性设计“四层安全围栏”纵深防护体系,覆盖输入输出、知识库检索、外部搜索、工具执行等环节,构建全方位的AI应用防护屏障,这种“分层防护+自主编排”的设计,让防护策略能够根据评估结果动态调整,确保AI大模型在面对不同安全风险时能够迅速、准确做出响应。
技术创新3:闭环自学循环,进化之脑
闭环自学循环技术是方案的“进化中枢”,核心是让防护结果反哺评估模型,打造“越用越聪明”的主动免疫系统。这一技术突破彻底改变了传统安全方案“规则固化、应对滞后”的模型。一方面,通过动态对抗强化学习,系统会不断优化评估用例库和防护规则库,实现训练评估模型和防护引擎的自我进化;另一方面,通过多级围栏联防和智能调度,实现防护策略的自优化,模型能持续分析风险发生的规律和特征,自动调整检测阈值和防护策略,提升对新型AI应用风险的识别准确率和阻断效率。
从方案到产品:天璇“主动免疫”能力嵌入AI安全一体机
为了将“天璇”方案更好地应用于实际场景中,绿盟科技也实现了从技术向产品服务的转化,采用云原生架构,将天璇“主动免疫”能力嵌入AI安全一体机(AI-UTM,清风卫)中,覆盖大模型生命周期中的训练语料安全、生成内容合规、数据防泄漏、系统环境安全等关键场景,可以为政府、金融、能源、运营商、企业和医疗等行业客户提供开箱即用的AI安全解决方案。
目前,这款一体机已在数字政府、智慧金融、智慧医疗等多个关键行业场景实现成功应用,充分满足了国家和行业AI安全监管合规要求,助力千行百业在深度拥抱AI的同时,筑牢AI安全底线。
绿盟科技依托二十余年网络安全深耕与十余年AI安全研究,构建覆盖云、网、端、数据的全栈安全能力体系。公司率先布局AI安全关键技术攻关,成立天元、天枢、星云等三大人工智能安全实验室,专注于研究AI模型自身的脆弱性、外部对抗性攻击机理以及AI系统应用的潜在风险。在数据安全、算法鲁棒性、模型可靠性及系统防护方面,绿盟科技已形成了一系列前瞻性的技术成果和专利储备,为构建多维度、全链条的AI安全评测能力奠定了理论基础。
面向未来,绿盟科技将持续秉承“AI原生安全+智能运营”理念,通过深化AI技术创新、强化安全平台研发、开放AI安全生态社区,携手合作伙伴持续输出威胁情报、最佳实践与人才培养计划,实现大模型安全的可持续演进,为人工智能产业的健康发展保驾护航。
推荐站内搜索:最好用的开发软件、免费开源系统、渗透测试工具云盘下载、最新渗透测试资料、最新黑客工具下载……




还没有评论,来说两句吧...