XCon2024议题：LLM Infra Security：大模型供应链的阿喀琉斯之踵

目前，大模型行业的安全研究主要集中在模型与算法安全方面，而针对大模型基础设施及其相关供应链安全的研究相对较少。

XCon2024会议中，来自腾讯朱雀实验室的高级安全研究员 杨瑾将带来议题《LLM Infra Security：大模型供应链的阿喀琉斯之踵》，该议题将重点分享腾讯朱雀实验室在大模型基础设施安全方面的研究成果，包括但不限于以下几点：对大模型生态系统的安全分析；安全开发生命周期的研究分析；基础设施攻击面分析成果；大模型训练与部署关键阶段面临的安全威胁；大模型应用场景中的风险点。议题还将总结并分享大模型基础设施安全的实践经验，以期为行业提供有益的借鉴和启示。

议题将对大模型基础设施的攻击面进行概要分析，探讨大模型软件供应链生态、开发生命周期以及系统基础设施，进而综合评估大模型基础设施的攻击面。通过这一综合分析，揭示潜在的安全隐患，为后续的安全防护工作提供有力支持。

同时，对大模型训练与部署阶段的安全风险进行系统的剖析，通过具体漏洞案例，深入剖析大模型在训练与部署等关键环节所面临的安全风险。重点关注当前行业内热点的大模型平台和框架漏洞，如huggingface、pytorch、ray等，以期提高开发者和使用者在实际操作中的安全防范意识。

最后，重点分析大模型应用场景中的安全挑战并为用户提出防护性建议。充分结合实际应用场景，如智能体开发应用和终端模型使用等，分析漏洞如何影响大模型基础设施的安全，通过分析langchain、chatrtx等框架应用的漏洞案例，揭示潜在的数据泄露风险，为相关机构和用户提供有针对性的安全建议。

杨瑾——腾讯朱雀实验室大模型红队成员。聚焦大模型安全研究和企业安全建设，有多年红蓝对抗和漏洞挖掘经验，发现过多个英伟达/微软/甲骨文等企业产品和服务的安全漏洞并获得厂商致谢。

腾讯朱雀实验室

成立于2019年1月，目前专注AI大模型领域前沿安全攻防技术研究，负责腾讯大模型业务的AI Red Team建设。通过大模型原生安全攻击手法跟踪和检测，红蓝对抗演习、供应链风险排雷、前沿攻击手法预研等视角进行实战演练与安全研究面向行业发布了业内首个AI安全威胁风险矩阵、LLM安全性测评基准、Secbench网络安全大模型测评，发现Nvidia、Meta、HuggingFace等多个知名厂商AI产品的高危漏洞，并获得官方致谢。议题入选CVPR、NeurIPS、ICLR、ACL、BlackHat、DEFCON、CanSecWest、HITB等国内外顶级会议。