前言

当ChatGPT掀起千亿参数狂潮，当Llama 2在私有云中加速部署，一场静默的安全危机正在企业AI基础设施中蔓延。第三方报告显示，2023年本地化部署的大模型系统遭受攻击量同比激增217%，LangChain组件漏洞导致的训练数据泄露事件更让多家科技巨头付出百万美元级代价。在这场AI军备竞赛中，开发者往往专注于提升模型精度，却让Ollama服务端口暴露、Dify工作流鉴权缺失等「隐形杀手」潜伏在系统深处。

在次背景，腾讯朱雀实验室自主研发AI Infra Guard轻量级安全工具，能够针对本地AI大模型进行安全漏洞评估。文本将介绍如何使用AI-Infra-Guard一键检测与收敛相关风险。

工具介绍

🛡️ AI基础设施安全评估系统

AI Infra Guard(AI Infrastructure Guard) 是一个高效、轻量、易用的AI基础设施安全评估工具，专为发现和检测AI系统潜在安全风险而设计。

🚀 项目亮点

高效扫描

支持 28 种 AI 框架指纹识别
涵盖 200+ 安全漏洞数据库

易于使用

开箱即用，无复杂配置
指纹、漏洞YAML规则定义
灵活的匹配语法

轻量级

核心组件简洁高效
二进制体积小，资源占用低
跨平台支持

📊 AI组件覆盖情况

组件名称	漏洞数量
anythingllm	8
langchain	33
Chuanhugpt	0
clickhouse	22
comfy_mtb	1
ComfyUI-Prompt-Preview	1
ComfyUI-Custom-Scripts	1
comfyui	1
dify	0
fastchat-webui	0
fastchat	1
feast	0
gradio	42
jupyterlab	6
jupyter-notebook	1
jupyter-server	13
kubeflow	4
kubepi	5
llamafactory	1
llmstudio	0
ollama	7
open-webui	8
pyload-ng	18
qanything	2
ragflow	2
ray	4
tensorboard	0
vllm	4
xinference	0

🚀 快速预览

快速使用

📦 安装与使用

安装

下载地址: https://github.com/Tencent/AI-Infra-Guard/releases

使用

本地一键检测

./ai-infra-guard -localscan

单个目标

./ai-infra-guard -target [IP/域名]

多个目标

./ai-infra-guard -target [IP/域名] -target [IP/域名]

从文件读取

./ai-infra-guard -file target.txt

AI分析

./ai-infra-guard -target [IP/域名] -ai -token [混元token]

🔍 指纹匹配规则

AI Infra Guard 基于WEB指纹识别组件，指纹规则在data/fingerprints目录中，漏洞匹配规则在data/vuln目录中。

示例：Gradio 指纹规则

info:
name:gradio
author:SecurityTeam
severity:info
metadata:
product:gradio
vendor:gradio
http:
-method:GET
path:'/'
matchers:
-body="<script>window.gradio_config={"||body="document.getElementsByTagName("gradio-app");"