2023TechWorld智慧安全大会｜智·领未来 安全大模型分论坛看点回顾

绿盟科技集团副总裁黄俊在致辞中提到，人工智能技术飞速发展，应用加快落地，特别是以 ChatGPT 为代表的生成式人工智能技术，开启了AI发展的新纪元。面对日趋白热化、持续化的网络攻防对抗环境，推动AI技术在网络安全攻防场景中不断走向实际应用、提升网络防御能力，对于网络安全未来发展具有重大意义。

大模型具有的智慧涌现、数据依赖、演进迭代等特征，以及来自算法和模型等方面的技术风险，使其在技术内生、应用衍生等方面面临严峻的安全挑战，其本身的安全也依赖安全技术来保障，这也为网络安全带来了新的场景和契机。黄俊表示，一直以来，绿盟科技始终把AI作为基础能力发展，持续思考如何让AI更好地赋能网络安全。黄俊表示，构筑AI生态需要每一位安全行业从业者的共同参与和鼎力合作。可以预见，随着AI技术与网络安全的融合，网络安全行业的未来必将全面、深刻地改变。

新一轮AI热潮已来，大模型正在变革性地重塑数字世界发展格局。中关村国家实验室、清华大学计算机系教授李丹从安全大模型全球发展动态出发，分享他对网络安全大模型的思考。李丹表示，技术最本质的特点是极大降低用户使用复杂系统的门槛，使得我们可以用图形化、自然语言或者手动点击的方式与复杂系统实现沟通。李丹从漏洞挖掘机器人、网络安全运维机器人以及自主进化攻防演练三个场景对大语言模型在网络安全领域的应用进行阐释。随后，李丹展示了现有通用大语言模型在网络安全领域的能力评测初步研究结果，李丹表示，推动网络安全大模型发展需要学术界和产业界的共同努力。最后，李丹深度剖析当下网络安全大模型的四大关键技术，即网络安全向量检索引擎与提示语工程技术、网络安全领域大模型训练技术、大模型的工具学习技术以及大模型安全能力测评体系。

身处技术大变革的转折期，生成式AI的高速发展正持续赋能千行万业，颠覆传统AI应用。IDC中国研究总监王军民表示，基于大模型的人工智能技术已经出现，未来我们将进入到AI无处不在的阶段。王军民通过援引调研数据，对AI在网络安全领域的应用进一步解读，分享他对AI安全技术在全球的应用展望。

王军民指出，安全技术对AI的依赖是全方位的，越来越多的安全技术需要AI加持，与此同时，安全监控和管理正持续呼吁更高自动化水平的安全能力。最后，王军民从人才技能、准确度、数据安全与隐私等维度解读当下AI市场发展潜在的挑战。

人工智能加速社会经济发展变革，正深刻影响数字中国的发展格局。对此，中国移动集团信安中心副处级高级专家江为强分享他在人工智能网络安全风险领域的思考。江为强表示，随着ChatGPT技术的发布，AI技术迅速在各领域得到广泛应用，成为助力开发模型和丰富场景的通用工具。他指出，人工智能安全风险发生的范围，正随着应用场景的日趋广泛而逐步扩大，风险发生的可能性也随着其应用频次的增长而持续提高，面对AI引发的全球信任焦虑，发展可信AI已经成为全球共识。

随后，江为强对国内外AI监管政策与标准制度进行解读。他表示，当前我国人工智能立法正在有序推进，治理体系已初步形成。与此同时，江为强分享AI在助力安全检测等基础网络安全能力提高、赋能不良信息及电信欺诈治理、数据安全流转及数据要素价值释放等领域发挥的网络安全空间治理价值。最后，江为强从发展要协同、政策要纳管、标准要完善、监管要覆盖、技术要攻关五个方向提出AI安全建议。

北京华为云计算技术有限公司华为云EI资深专家张煜从当前大模型面临的安全挑战为切入点发表主题演讲。张煜表示，当前，大模型在网络安全、隐私、幻觉、有害内容、虚假信息、公平性等六个领域面临安全挑战。随后，张煜分享华为云计算在寻求数据更安全、模型更安全、内容更安全的大模型的实践成果，对华为云盘古大模型安全实践总览予以解读。张煜表示，保障大模型的安全可信、强化安全智能化，对打造安全合规、可控易用、赋能千行百业的大模型提出更高的要求。最后，张煜从数据安全、模型安全、内容审核、安全评测分享华为云盘古大模型的安全能力。

立足于“人工智能+安全”，绿盟科技集团天枢实验室负责人顾杜娟分享绿盟科技在安全行业大模型构建和应用方面的实践探索与创新。顾杜娟以安全数据、AI工程化和算法三方面解读了绿盟科技这十年来在“AI+安全”上的积累，构建包含安全大模型和大模型安全两方融合的安全新范式。

顾杜娟同时表示，目前安全行业需要训练一个面向解决实战化安全问题的安全行业大模型 ，接着从“易”、“快”、“准”、“安”四个维度对绿盟安全行业大模型的创新技术进行了阐释。最后分享了安全行业大模型的四大特点，即安全可信、场景实战、轻量加速和智能自主，并呼吁携手促进安全行业大模型的生态建设，加速“AI+安全”的发展。

北汽福田汽车股份有限公司IT基础设施及信息安全高级经理张志强从信息安全运营挑战为切入点，分享AI大模型赋能信息安全智慧运营实践。张志强从外部威胁、安全监管等角度解读当前信息安全运营面临的挑战。他表示，AI大模型下的智能对抗已成为趋势，构建高质量信息安全运营能力应向自动化、动态化、智能化的“主动运营”转变，结合大数据、云计算、AI大模型等技术，整合“技术-人员-流程”，实现“主动响应闭环，持续安全运营”，从而更加适合数字化转型中的敏捷要求。随后，张志强分享福田汽车“主动响应闭环，持续安全运营”的信息安全体系架构。最后，他指出，联合外部资源实现云上云下协同共治，能够有效解决安全运营面临的主动响应难、运维压力大、持续运营难、价值体现差等问题。在未来，智能化地值守、研判、处置，将推动数字安全运营迈向智慧安全运营时代。

大模型引领科技创新与变革，AI发展持续推进。绿盟科技集团运营服务BG高级攻防部负责人陈永泉发表题为《AI助力实战攻防能力演进》的演讲，从非神经网络模型、深度学习模型、预训练模型、通用人工智能四个方面对人工智能的发展予以解读。陈永泉指出，AI浪潮下，大模型驱动的智能变革之路正在加速，通用大模型和垂直领域大模型并行发力。而安全行业的复杂性与特殊性决定了垂直领域大模型能够更精准满足行业特定需求。

陈永泉从大模型攻防技术场景应用和核心优势能力两个方向出发，进一步阐释大模型背景蓝图，他表示，逻辑推理能力和自然语言理解能力正在持续赋能攻防能效提升。通过AI赋能攻防，加速攻防能力转化，促进人效的提升，助力攻防能力演进正在进行中。

在ChatGPT 呈现全球现象级热度时，通用大语言模型（Large Language Model, LLM）技术成为了推动创新和变革的关键驱动力。但由于安全行业的特殊性和复杂性，LLM 并不能满足其应用需求。因此，绿盟科技基于“人工智能+ 安全”多年积累的安全专业经验和高质量数据，稳扎稳打地推出安全可信的安全行业大模型（Security Large Language Model, SecLLM），旨在智能化解决攻防实战场景中所面临的复杂安全问题，提供更专业、高效和定制化的威胁应对和安全防御能力，更好地满足安全行业的特殊需求，为安全行业提供量身定制的大模型解决方案。

会上，绿盟科技正式发布《安全行业大模型 SecLLM技术白皮书》，分享绿盟科技在SecLLM 研发过程中所积累的最佳实践和经验教训，并探讨其在安全领域的重要性及价值。

作为人工智能新时代的智能引擎，大模型引领的科技创新的变革正在快速发展，其在各行各业中的垂直应用也成为产业创新的新动能，共同应对日益复杂的安全挑战，携手促进安全行业大模型生态建设，促进“人工智能 + 安全”的加速发展，绿盟科技一直在路上。