天融信：智能体安全的核心，是驾驭AI的不确定性

近日，“可信赋能·智安同行——AI智能体可信测评与安全保障发展论坛”在北京举行，天融信科技集团出席并作主题分享，同与会嘉宾一道探讨AI智能体安全治理的新路径、新模式。

左右滑动查看更多

本次论坛由中国信息协会大数据分会主办，国家工业信息安全发展研究中心、武清京津产业新城高村数智创新园、中国太平洋财产保险股份有限公司等共同承办。

随着大模型等新一代人工智能技术迅猛发展，智能体正加速与网络空间、物理世界深度融合，深刻改变人类生产生活方式和社会治理模式。今年5月，《智能体规范应用与创新发展实施意见》发布，我国AI智能体安全治理正式迈入有规可依、有章可循的新阶段。

“AI智能体安全不是传统安全的延伸，而是一场范式革命。”天融信科技集团副总裁王奇飞在《AI智能体安全的技术探索与行业展望》主题演讲中，系统梳理了AI智能体带来的四大维度「新」风险，包括内生脆弱性、新型攻击面、系统性传导和决策失控。

今年以来，工信部多次针对国外主流智能体产品发布安全风险提示，AI智能体安全问题已从“理论探讨”进入“实战应对”阶段。王奇飞认为，当前亟需破解三大核心命题：如何「度量」智能体安全？如何「管控」智能体行为？如何「治理」安全生态？

“智能体安全的核心，是驾驭AI的不确定性。”他提到，基于在AI安全领域的持续探索和创新实践，天融信提出“1中心+6大安全能力支撑+X项标准化防护”架构，为各行业客户构建覆盖全生命周期、多层次、多维度的智能体安全防护体系。

该体系以AI安全运营中心统筹管控，将6大安全能力进行有机整合，打造基于AI的统一协同平台，依托自研多款安全产品构建能力矩阵，提供安全评估、安全防护、安全监测和资源整合等全方位能力保障，实现AI智能体全生命周期治理。

智算云平台：作为算力底座，集成“智、算、存、网、安”五大能力，全新升级“融算一体”架构，打造通用+AI全栈工作负载引擎，提供数据、模型与应用全流程处理平台，同时内置训推工具链与开发框架，支撑快速构建知识管理、智能问答、智能运维等企业级AI应用，为智能体提供可信的“裸金属”级执行环境。

大模型安全网关：基于GB/T 45654-2025《网络安全技术生成式人工智能服务安全基本要求》等国家标准，针对恶意提示词注入、违规价值观、数据隐私泄露、API异常调用、DDoS攻击等威胁，提供一体化安全防护。

大模型安全评估系统：面向基础模型、AI应用、推理框架等评估对象，利用多轮深度检测和“AI对抗AI”的智能研判能力，覆盖内容安全、应用安全、语料安全等维度，帮助企业在智能体上线前就“把好关”。

大模型数据安全监测系统：使用探针实时收集网络安全数据，基于智能化风险研判引擎驱动多种安全策略持续监测，实现安全事件的自动化处置和人工干预协同。

“从单点防护走向全生命周期治理，从规则驱动走向‘AI对抗AI’，从企业自建走向生态协同，是AI智能体安全未来发展的三大演进趋势。”在演讲最后，针对行业生态建设，王奇飞提到，天融信将加强与保险机构、产业园区的紧密配合，通过实践推动真实业务数据的双向流通沉淀，实现保险需求驱动安全技术，不断推动行业高质量发展。

作为网络安全与智算云解决方案提供商，天融信将凭借深厚安全积淀、全栈产品矩阵和开放生态战略，与产业各界紧密协同、聚力攻坚，让每个智能体都值得信赖，让安全成为发展的助推剂，共同构建可信任的AI智能体未来，让AI真正服务于人。