7月27日,2025世界人工智能大会(WAIC)“AI智能体安全:风险体系与解决方案”思辨会专场上,vivo安全研究专家苏涛带来了题为《端侧智能体安全需求及技术架构讨论》的深度分享。苏涛全面剖析了AI智能体时代衍生的新安全需求,并系统介绍了vivo为端侧智能体打造的全栈式安全防护架构,展现了vivo在该领域的前沿思考与技术布局。
vivo安全研究专家苏涛在2025 WAIC发表演讲
AI智能体能力跃升,催生新安全需求
苏涛以“订餐助手”为例,展示了AI智能体从接收用户指令、理解意图、跨应用操作(如调用地图、拨打电话、管理日历)到自主完成订位任务的全流程能力。他指出,未来的AI智能体将具备更强大的认知能力(理解用户、设备、环境信息)、记忆能力(记录习惯、偏好)、计划能力(任务拆解与规划)以及使用工具能力(调度设备应用及外部智能体),从而更深入理解用户意图,拓展应用边界。
这些能力进化引发了前所未有的安全需求。苏涛对比分析了智能体与传统应用的四大核心差异:
自主性与交互性增强:主动学习与数据获取(传统应用被动执行指令)
数据处理逻辑复杂化:数据使用目的多样、逻辑难追溯(传统应用目的单一)
模型机密性要求提升:高价值模型(尤其敏感数据训练)需防窃取(传统应用算法安全性要求低)
应用场景与影响扩大:覆盖医疗健康等敏感场景,安全边界模糊(传统应用场景固定)
苏涛特别强调,AI智能体通过视觉感知和跨应用操作,正成为新的核心流量入口,这不仅颠覆传统广告模式,更因入口属性变化显著扩大了攻击面——智能体安全性直接关乎用户隐私与生态安全。
针对上述安全需求,需要体系化的解决方案:在用户隐私数据保护上可依靠动态且内容理解的授权框架;智能体行为管控,有行为管控框架、记录审计、完整性保护及输入数据清洗等措施;服务提供商 IP 保护则通过机密性保护实现。此外,操作系统和大语言模型也有相应解决方案,如操作系统的内存攻击防护、可信执行环境等,大语言模型的模型签名、水印等。
面对这些复杂需求,苏涛详细介绍了vivo千镜安全架构的再升级。该架构为手机端智能体提供全栈式安全保障(“铠甲”),并限制智能体的行为能力(“枷锁”),围绕四大层级构建:
芯片层:提供金融级的基础能力支撑 - 依托硬件安全防护、硬件加解密、硬件可信根、和安全数据通道,为上层安全提供坚不可摧的硬件基石;
内核层:安全运行环境 - 提供运行时内存保护、完整性验证、可信执行环境(TEE) 等能力,确保智能体运行环境纯净可信。特别强调通过虚拟化机制隔离高敏数据,实现用户数据从输入到推理结果的全生命周期保护;
框架层:智能体行为管控 - 实现端侧沙盒隔离、行为监控、可信度量、模型保护机制,有效管控智能体行为;
应用层:用户可感知的安全能力 - 提供用户数据保护、隐私防追踪、可信用户交互、内容安全、输入清洗等能力,让用户直观感受到安全保障。
苏涛总结道,端侧智能体的能力和应用场景正在爆发式增长(如MCP/A2A协议支持的医疗健康、个性化推荐等)。智能体越了解用户、服务越个性化,就越需要强大的安全能力作为“方向盘”,引导其健康、可靠、可信地发展。vivo千镜安全架构的持续进化,正是通过不断迭进的安全技术和产品,构筑用户隐私的坚固防线,让亿万用户安心享受AI智能体带来的便捷数字生活。
未来,vivo将持续深耕端侧智能安全,与产业伙伴协同共建,推动AI智能体生态的安全与繁荣。
推荐站内搜索:最好用的开发软件、免费开源系统、渗透测试工具云盘下载、最新渗透测试资料、最新黑客工具下载……
还没有评论,来说两句吧...