高端访谈 • 绿盟科技陈珂｜​AI+网络安全：构建智能防御新防线

陈珂：大模型技术作为生成式人工智能重要的技术应用，以及向通用人工智能跃升的关键里程碑，正在推动各行各业创新和变革。聚焦到网络安全行业来看，我们一直也在思考、探索和研究AI以及大模型技术给网安行业带来实质创新能力的核心场景。

一方面，大模型驱动下，为传统人工在事件调查、事件研判、响应处置和风险影响面等方面效率低效现状，带来了更加聚焦、高效和准确的解决方案，例如海量复杂告警的降噪和高价值信息的检出，弥补安全运营人员数量及认知不足的短板等方面，为重塑传统安全运营提供了能力供给；另一方面，AI驱动下的安全能力边界能够可见快速外延，我们依托大模型持续自我成长和能力涌现的能力，去处理原来较难解决的问题，比如利用大模型进行数据资产测绘和分类分级、进行代码审计和漏洞挖掘、做威胁情报增强；AI驱动下的智能化攻防场景，能够降低复杂化攻击门槛。人工智能技术与网络安全技术的碰撞与融合，为构建智能化安全防护新生态提供更强劲的转型动能。   

从另一个层面来看，生成式AI技术的应用使得网络攻击更加智能化和自动化，威胁行为者可能利用AI技术快速识别漏洞、开发攻击代码，甚至进行更高级的社会工程学攻击，使得攻击手段更加隐蔽和难以防范，加之大模型存在原生安全问题和自身的不可解释性，其安全隐患和安全风险不容忽视，我们在充分享受人工智能释放技术红利的同时，必须做好迎接人工智能在数据安全、隐私保护与风险管理等各方面的挑战。

陈珂：目前，大模型不仅快速处理海量安全数据，通过多维度关联分析显著提升威胁检测准确率与有效性，还构建了智能个性化的自动化响应机制，增强防御智能化与及时性。同时，大模型在风险评估与管理中，智能识别异常行为，提供精准评估与个性化策略建议，助力企业高效应对网络安全挑战。

在技术融合方面：基于“预训练-微调”技术路线，构建易用、高效、准确和可信的安全行业专用大模型，智能化解决实战场景中所面临的复杂安全问题，为安全行业提供智能化的威胁应对和安全防御能力，提供更强大可信的解决方案。AI能力原子化可被融入在威胁检测、告警压降、智能分诊、辅助研判、智能处置和拓线溯源等环节的安全运营体系中，有效促进安全数据、分析能力与运营决策三者的有机结合，以多种交互方式实现更加自然、更加便捷的交互体验，全面驱动企业和组织实现安全运营提质增效。

在威胁检测与防御方面：大模型能够快速处理海量的安全数据，包括网络流量、日志、文件等，利用并行计算架构实现数据的高效存储与分析，为威胁检测提供坚实的数据基础。一方面，大模型从多个维度挖掘威胁的关联特征，通过深度学习、图神经网络、知识图谱等技术，对多源异构信息进行深度关联分析，有效加强关键节点的挖掘并减少告警漏报和误报，显著提升威胁检测准确率；另一方面，大模型通过自主学习提取威胁本质特征并生成检测模型，捕捉威胁在不同环节、不同时间的活动规律，相较传统的特征工程，大模型能够降低传统人工模式的局限性，全面刻画威胁行为的异常模式，显著提升威胁检测有效性。   

在自动化响应方面：大模型可以更好通过检测和关联分析结果以及目标指令，综合利用所学习到的专业知识、语义理解能力以及可能的逻辑推理和决策策略，构建更智能和个性化的自动化响应机制。大模型通过交互决策增强，更好地理解不同需求并提供个性化的安全指导和辅助决策，推荐最佳的响应方案，实现自动化剧本编排和人机协同，进一步增强安全防御的智能化和及时性。

在风险评估与管理方面：大模型一方面通过深度学习等技术能够智能识别网络中的异常行为和攻击模式，叠加多源数据的关联分析能力，能够显著提高企业风险评估的精准性和有效性，同时辅助执行风险评估过程中的许多环节，例如在数据收集、预处理、特征提取等方面，进而缩短评估周期，提升安全评估效率；另一方面，大模型基于风险评估等要素提供个性化的安全策略建议，并通过模拟预测评估不同安全策略的实施效果，这些结合行业特点和实际场景量身定制的决策辅助建议，有助于企业更有效地进行策略制定和应对网络安全挑战。

陈珂：长期以来，绿盟科技在安全大模型研发与场景化应用上持续专项投入，组建多学科交叉团队并加大资金与资源支持，专注提升模型自适应性、可解释性和安全性。公司通过底层架构创新，实现高效且适应网安需求的技术架构，融合多年攻防与AI技术积累，打造竞争力强的大模型产品。

在研发方面：绿盟科技在安全大模型研发和场景化融合应用等方面，有明确且持续的研发资金、研发人员等方面的专项投入。在研发人才方面，公司组建了多学科、多领域交叉的研究团队，包括网络安全专家、网络攻防专家、人工智能研发专家、数据科学家和系统架构师等，这些人才具备相关领域的深厚知识和实践经验；在资金投入方面，公司在专项硬件设备、软件工具的购置，以及人力资源和运维等方面持续加大投入。目前，公司重点从构建可信任的安全智能生态出发，持续在大模型自适应性、可解释性、安全性等方向进行深入研究。   

在差异化竞争方面：绿盟科技首先在大模型的底层架构设计上进行了创新，通过自主研发实现了更高效、更适应网络安全特定应用场景的底层技术架构，一方面提升大模型自身性能、增强技术优化迭代上的自主化能力，能够根据市场反馈和行业需求及时进行优化和调整；另一方面，公司结合多年来在网络攻防和人工智能技术的研究积累，实现包括在安全运营、安全监测和安全攻防等多个场景的智能化能力融合，从而孵化有竞争力的大模型产品和解决方案。

在未来规划方面：人工智能与网络安全领域的深度融合，将进一步激发网络安全应用新需求，催生网络安全新技术、新产品和新模式，拓展网络安全产业发展新空间。绿盟科技将持续加大投入，一方面加强技术研究与创新，重点聚焦大模型在网络安全应用中的可靠性、可解释性和安全性等问题；另一方面加强产品与服务升级，针对不同行业、不同规模以及不同业务需求的客户提供一体化、定制化、智能化的安全解决方案；最后，将积极参与人工智能行业标准制定和推广工作，积极与产业上下游企业、科研机构等进行合作，通过资源共享、优势互补等方式推动人工智能与网络安全产业融合与发展。

陈珂：首先，在数据隐私与安全方面：在利用大模型处理大量数据过程中，保护数据安全性和隐私性是一项至关重要的任务，涉及法律法规的遵守，也关乎企业和组织的长期发展以及用户的信任。一是，在数据收集与处理的合规性方面，应确保所有待处理数据的收集、处理、存储和传输活动都严格遵守相关法律法规要求，通过隐私政策、用户协议等形式向数据所有者告知数据的收集目的、使用方式、存储期限及可能的风险等信息，同时遵循最小必要原则，避免数据过度收集，减少数据泄露风险，降低处理大量数据的成本。二是，在数据传输与存储安全性方面，一方面使用安全的传输协议来确保数据的机密性和完整性，建立严格的访问控制机制，限制未经授权的访问和传输；另一方面通过数据加密、数据脱敏及匿名化处理等技术方式，同时建立数据审计与监管机制，不断提高数据的安全性和隐私保护水平。三是，在大模型数据隐私性保护方面，可以采用差分隐私、大模型拆分及跨域微调、模型混淆、可信硬件等架构和技术的优化路线，在原始数据不出域的情况下实现大模型数据输入、微调、推理、输出等全链路数据的模型隐私安全。   

其次，在模型准确性与误报率方面，平衡大模型预测准确性以及降低误报率并提高用户体验是一个相对复杂的系统性工程，需要综合考虑多个方面，包括模型架构的选择、训练过程的优化、数据质量的管理、模型的压缩与剪枝策略、硬件加速的应用以及持续监控与调优等等，并通过实时反馈与交互以及个性化推荐与定制等方式，满足用户的多样化需求并提高用户满意度和忠诚度。

陈珂：绿盟科技在产业链合作上，积极与人工智能大模型、网络安全领域的上下游企业建立战略联盟，融合技术资源，共促技术创新与应用拓展，满足市场对高效智能网安防护的需求。同时，鉴于AI大模型在网安领域应用带来的新风险，绿盟科技致力于推动相关管理标准的制定，与标准化机构紧密合作，参与编制标准和技术资料，以规范技术应用，保障产业升级与安全，为“人工智能+网络安全”的融合发展贡献力量。

在产业链合作方面，绿盟科技一方面积极寻求与在人工智能大模型、网络安全等领域具有技术实力和市场认可度的上下游企业建立战略合作关系，聚焦于人工智能大模型在网络安全领域的应用创新，融合各方技术和资源优势，共同攻克技术难题、推动技术创新、共享技术成果；另一方面，我司大力推动与国内人工智能算力、数据、算法基础等为代表的上游企业，以及以行业服务、数字化转型服务等为代表的下游企业建立合作生态，共同拓展人工智能大模型的应用场景，满足市场对高效、智能、全面的网络安全防护需求。  

在标准制定方面，随着人工智能及大模型技术的快速发展，其在网络安全领域的应用日益广泛，同时带来了诸如数据泄露、算法攻击等新的安全风险和隐患。因此，加快制定统一的管理标准和配套要求，进一步规范人工智能大模型在网络安全领域的应用是非常必要的。标准应涵盖从基础技术到具体应用的全过程，夯实标准对推动“人工智能+网络安全”技术进步、引领产业升级、保障产业安全的支撑作用。绿盟科技作为专业网络安全厂商，充分发挥相关领域的技术优势和创新能力，积极与全国信息技术标准化技术委员会以及中国信息通信研究院、中国电子技术标准化研究院等单位和机构合作，深入参与相关标准和技术资料的编制，推动人工智能与网络安全应用结合和规范化发展贡献力量。

陈珂：人工智能及大模型技术能够与网络安全应用场景深入结合并提供创新能力，例如在AI赋能安全运营场景下，通过深度整合人工智能与安全领域的专业能力，应对日益严峻的网络威胁挑战。带来的核心价值在于提升安全运营的智能化水平，实现对复杂网络威胁的快速识别、精确分析、智能响应与有效防御，从而为企业和组织构建一个更加稳固、灵活且高效的网络安全防护体系，特别是缩短威胁响应时间，提高检测精度，优化运营效率，并强化对敏感数据的保护，确保客户在数字化转型浪潮中，企业和组织的关键资产得到全方位的安全保障。另外，大模型在与数据安全、风险暴露面管理、APT高级威胁治理、智能安全攻防及自身安全等网络安全下游细分场景的结合，都为用户带来了诸多实质性的价值，人工智能及大模型技术将成为未来网络安全各场景解决方案的核心。

2024年，是习近平总书记提出总体国家安全观和网络强国战略目标10周年，随着数字经济新模式和新业态的蓬勃发展，人工智能作为新一代信息技术应用创新突破，成为拉动经济社会发展的新引擎，网络强国建设与推进技术创新和发展新质生产力的浪潮是同频共振和同向而行的。与此同时，随着网络安全向数字安全不断外延，以及网络安全攻防对抗技术的演变升级，将持续推动网络安全技术创新，促进构建智能化、主动化的安全能力，并加速创新型安全架构的全行业落地。着眼未来我们认为，一方面，人工智能技术将是抢占网络安全高地的重要战略性能力，其在提升网络安全检测与预测能力、实现自动化与智能化防御、应对复杂多变的安全挑战、促进安全技术创新与产业升级等方面发挥着重要作用；另一方面，人工智能自身安全是产业健康发展的重要保障，进一步完善法律法规与政策引导、加强内生风险防控、增强安全监管与治理能力，引导人工智能技术与产业应用融合向更加安全、可靠、可控的方向发展。人工智能大模型为网络安全行业带来了前所未有的机遇和挑战，我们有理由相信，在不久的将来，网络安全将变得更加智能、高效、全面和可靠，为数字经济的繁荣发展提供坚实的安全保障。