绿盟君的咖啡时间｜与Intel对话：走进绿盟智能攻防大模型

随着人工智能技术的快速发展，大模型训练与推理成为了科研、工业应用等领域的重要环节。此前，绿盟科技凭借其智能攻防大模型，，基于英特尔CPU提供了服务器版和AIPC版两种形态以满足不同攻防场景，从大模型的智能渗透测试需求出发，在当前GPU一卡难求的困境中提供了一个新的选择。

| 以下为部分对话摘要 |

1、绿盟风云卫的产品布局是什么？

绿盟风云卫大模型其实不仅仅是一个安全行业的大模型，更为准确的说应该是一个AI安全能力平台。在这个平台上集成了各种各样的原来小模型和现在大模型的能力。实际上绿盟科技的风云卫目前产品形态有两种，一种是T-ONE云端的服务，很多的中小型客户都可以通过云端来享受这样的服务，就像openAI在云端chat口上面自己可以去交互。还有一种是有别于OpenAI，会有一个单独的盒子，即AIBOX，会把各种各样大模型、小模型的能力集成在这个盒子里边。

2、Intel AI 的独特看法

网络A这个概念其实不是今天刚刚有的，大概在三四年前Intel就提到了网络AI这个观点。当时的AI能力其实更多是通过云上的服务来提供的，网络安全解决方案提供商一般提到网络AI，都是在公有云或者企业的这种PoP节点来提供这种AI加持的网安产品。这里面大部分的AI，不管是从training（训练）还是到推理，其实都是在云端去做的。但是到了现在，尤其是大模型或者是生成式AI大规模的发展以后，不管是从成本考虑、从隐私和安全考虑还是从时间考虑，其实都需要把很多的AI的推理能力从云端放到边缘侧或者设备侧，这时候我们就需要前端的安全的设备。

3、绿盟智能攻防大模型实际应用

绿盟智能攻防大模型服务器版基于Intel (R) Xeon (R) CPU的智能攻防大模型一体机，适用于远程的渗透测试和互联网环境下的攻防演练。智能攻防大模型结合绿盟自研和开源的攻防工具，具备渗透任务规划、渗透路径智能推荐和攻防工具智能调用等功能，将自动化渗透测试赋予“智能”，提升渗透测试的效率和准确性，有效缓解了渗透人才紧缺的问题。从测试数据来看，服务器单机性能支持10个并发，每秒处理高达182.01个token。

4、大模型如何实现在普通PC上运行？

Intel今年推出了最新的Core Ultra处理器，结合CPU+GPU+NPU三大AI引擎，AI算力可达到34Tops，可以让200亿参数LLM在本地运行。同时结合软件工具链ipex-llm，实现在英特尔XPU 上提供最广泛的模型支持、最低延迟和最小的内存占用，支持各种优化技术合集，如 INC/NNCF、llama.cpp/GGML、GPTQ、bitsandbytes、QLoRA、IPEX、DPC++等。结合网络安全场景，可以实现快速轻量级的模型部署，进行快速的安全检测。