洞见2024 哪些创新技术发展趋势值得关注？

在我们迈入2024年之际，网络安全技术的发展正以前所未有的速度和维度重塑着全球数字化生态系统的安全边界。展望2024年，网络安全行业即将迎来一场深刻的变革。

AI人工智能、量子计算、万物互联等新技术正在加速与安全的深度融合，引领我们步入一个更加智能、可信、韧性的新时代。

安全419 注意到，面临机遇与挑战，包括360、奇安信、亚信安全、山石网科、瑞数信息在内的多家安全厂商都发布了自己对于2024年产业技术发展趋势的预测，以期在全球数字化转型的大潮中，构筑起更为坚韧、智能、全面的安全防线，应对未来更为复杂的安全威胁。

观察各家厂商发布的技术趋势预测，我们发现，生成式AI、安全大模型、勒索软件、数据安全、软件供应链成为被提及最多的高频词汇。安全419对各家针对这些热门趋势的观点进行了整理，摘录了部分与大家分享。

作为硬币的另一面，AI自身的安全也成为业内关注的热点。很多专业用户对大模型“一本正经地胡说八道”十分头痛，而针对AI/ML的推理攻击、数据投毒、提取和规避等攻击方式，以及可能对社会产生的不良影响，更是让专业用户投出了更多的不信任票。

根据Gartner2023年发布的一项调查，34%的组织已经在使用或实施人工智能应用程序安全工具，26%的受访者表示，他们正在实施或使用隐私增强技术，ModelOps（25%）或模型监控，以减轻生成式 AI带来的风险，超过一半（56%）的受访者曾研究和探索过此类解决方案。  

为此，无论出于监管部门的要求还是实际应用的需求，AI安全成为明年众多大模型供应商与运营商（包括通用大模型和安全垂域大模型）必须关注的基本问题。

当前，企业网络安全普遍面临着告警疲劳、效率瓶颈、专家稀缺等三大问题，尤其是生成式AI如果被黑客滥用在网络攻击领域，会给防护带来更加严峻的挑战。因此，将人工智能和机器学习集成到网络安全实践中变得越来越重要。

到2024年，预计人工智能驱动的安全运营与威胁分析将进一步发展，尤其是生成式人工智能技术将大量应用于智能威胁分析和响应领域。通过对网络流量、安全告警等大量数据进行深入&实时的安全分析，可以协助安全专家甄选出真实有效的威胁告警，并生成相应的响应策略，从而大大降低网络安全运营难度，提升安全运营效率，提高安全运营能力水平，让网络威胁处置更快一步。

2024年，随着AI的普及，越来越多企业需要更先进的AI风险与安全管理工具，全面掌握大模型的使用情况；依托领先的大模型风险发现能力及风险检测库，可以检测大模型应用自身安全风险、服务商风险以及大模型使用过程产生的数据泄露风险、数据跨境风险、服务风险、用户及设备风险、业务安全风险等多维度安全风险，帮助企业及时感知大模型风险情况。因此，AI大模型风险管理将成为行业创新热点。

关于生成式AI，事实上亚信安全做出了三点预测：

1.不当使用生成式AI工具可能造成隐私数据泄露

随着人工智能技术的不断发展和成熟，生成式AI工具将成为提高生产力的关键驱动力。随着人们对这些工具的认识和接受度的增加，预计2024年企业和个人将更加广泛地采用这些工具来提升工作效率和竞争力。随着AI广泛使用，隐私数据泄露，不当使用AI技术以及AI被滥用等安全问题将会逐渐显露，为保证AI的正常可持续发展，2024年将会出台更多关于AI的监管法律和政策。

2. 生成式AI将在社工钓鱼攻击中扮演重要角色

越来越多的企业将AI融入日常运营，以发挥其最大作用。攻击者也将AI作为强有力的工具，就像许多新兴技术一样，AI也是一把双面刃，它在网络攻击社交工程当中所扮演角色将在2024年开始崭露头角。通过超逼真伪造影音的AI工具伪造语音，盗窃身份，针对特定受害者的诈骗将会越来越逼真，也越来越多。我们预测，AI和大型语言模型将被广泛用于提高钓鱼邮件和社会工程攻击的专业化水平。

3. AI降低了恶意攻击的门槛，将驱动更多恶意攻击发生

AI降低了开发恶意软件的门槛，攻击者使用聊天机器人、人工智能开发的恶意软件代码、机器学习算法等开发出更复杂的恶意软件，让传统的检测方式更加难于检测，增加了预防网络攻击难度。我们预测，恶意攻击者将更多地利用人工智能 (AI) 功能开发恶意软件，驱动更多的恶意攻击发生。

在数字安全的战场上，生成式人工智能（Generative AI）是一把威胁网络安全的利剑，事实上还有另一副面孔——网络安全的守卫者。

生成式AI提供了一种全新的方法来发现和分析系统漏洞，提高了安全团队的响应速度和效率。通过自动生成威胁报告和警报，生成式AI能够帮助安全团队更好地理解和准备应对各种安全威胁，同时自动化的日志分析过程和图表生成能力极大地减轻了分析人员的工作负担。

在日常的网络安全维护中，生成式AI的应用不仅限于识别威胁，还包括风险评估和合规性分析。通过分析各种数据源，它能够自动识别潜在的风险和合规性问题，并生成详细的报告和文档，帮助企业确保遵循各种规定和标准。此外，生成式AI还可以用于安全配置的优化，确保系统和应用始终遵循最佳的安全配置标准。

虽然生成式AI技术仍面临着一些挑战，如大模型的部署成本、技术复杂度和监管因素，但其价值和潜力不容忽视。企业应在合理预算下持续探索和推动这项技术的演进，并尝试将其应用于实际场景中。

在网络世界中，永远不要低估黑客的“恶意”，当然，也最好不要高估自己所谓的“优越”。如今，新型网络攻击方式快速迭代，其隐蔽性和多样性都与日俱增，一旦攻击成功，对企业造成的危害程度也不可同日而语。

2023年上半年，市场上出现的WormGPT、FraudGPT等工具，可用于网络诈骗和网络勒索等恶意活动，让黑客发起更复杂的攻击。Darktrace研究显示，自ChatGPT为代表的生成式AI技术兴起以来，复杂的网络钓鱼攻击数量上升了135%。据最新市场调研报告数据，生成式AI和云的广泛应用使得恶意机器人（Bad bots）暴涨，占互联网总流量的73%。

可以预见，2024年，恶意生成式AI或将引发大规模网络攻击活动。生成式AI全面降低网络攻击的门槛，并更广泛地用于提高钓鱼邮件和社会工程攻击的专业化水平，使得勒索软件更容易进到企业。同时，生成式AI的攻击内容更加难以被辨别，尤其是借助Bot自动化攻击手段，让攻击者可以更快速、准确地扫描漏洞或对网络发起攻击，大幅增加网络攻击的波及面和有效性。这给原本处于攻防弱势的防护方以更大的管理和技术挑战，安全企业、厂商、服务商需要更多的创新、共享、协同，来应对这一巨大挑战。

360旗下研究机构国际安全智库认为，作为大语言模型（Large Language Model - LLM）的爆发年，2023年仅在国内就先后出现了十几家安全企业发布基于大模型的安全运营平台。

Forrester2023年的调查报告强调，生成式AI需要的不仅仅是通用的大模型。因为即使是经过最仔细的微调和提示语的大模型也不足以构建和安全运行大多数需要专业知识的应用场景。

据国际安全智库的观察，今年国内主流的安全大模型，多赋能于安全运营场景中的检测效率（检出率&准确率）与响应联动效率。随着大模型及其应用的迅速发展，明年预计还将在数据治理、流量分析等应用场景，有更多的细分垂域（即场景化）大模型的出现。

亚信安全从更技术更专业的角度提出，“数据投毒”将成为大模型面临的新威胁。亚信安全认为，机器学习模型的数据源非常广泛，企业为了降低成本通常会选择第三方数据湖和联合学习系统的数据集。

数据投毒是指攻击者将少量精心设计的中毒样本添加到模型的训练数据集中，利用训练或者微调 (fine-tuning）过程使得模型中毒，以影响机器学习模型的训练过程和预测结果。攻击者可针对模型的数据搜集阶段策划攻击，还可以入侵模型的数据储存或数据流程基础构架。我们预测，数据投毒（data poisoning) 将成为机器学习模型的一种新兴威胁，一旦数据被投毒企业将面临着数据泄露以及因无法正确识别企业风险行为，导致企业违规受罚等风险。

大家知道，大模型和大数据之间存在密不可分的关系，大数据为大模型的发展提供了样本基础。山石网科在预测中并未谈及大模型一词，却用了很多笔墨来阐述“图数据科学”对安全行业发展的影响。我们也将相关的观点摘录于此：

山石网科认为，在网络安全的深层战场中，图数据科学已经成为一种不可忽视的力量，它如同一面隐形的盾牌，保护着我们的数字世界免受潜在威胁的侵害。作为处理和分析图结构数据的跨学科领域，图数据科学的目标是从复杂的图形结构中提取出有价值的信息和知识，为网络安全提供深刻的洞察。

图数据科学的核心在于它综合了图论、数据库技术和机器学习方法。在网络安全领域，它通过图算法分析网络连接和数据流，以检测攻击模式和异常网络流量。图数据库提供了处理大规模图数据的强大支持，而图神经网络则能够识别图中的模式和特征，被广泛应用于威胁检测和恶意软件分析。

在实际应用中，图数据科学可以赋能多种网络安全产品和服务，如威胁情报平台（TIP）、扩展检测和响应（XDR）和统一终端安全/云工作负载保护平台（UES/CWPP）。它能够实现从实体关联分析、攻击链重建到威胁情报富化的多种功能，帮助安全团队更好地理解和响应威胁。此外，图数据科学在最短路径和影响分析、实时威胁监视等方面也显示出了巨大的潜力。

尽管图数据科学在表征、计算和分析方面属于成熟应用技术，但在面对更复杂的安全检测与分析任务时，尤其是在图神经网络的应用上，仍存在技术瓶颈和较高的试错成本。因此，网络安全公司需要提前进行技术储备，以应对这些挑战。

数据作为第五大生产要素，其蕴藏的价值已经毋庸置疑，因此如何将价值良性释放的问题成为焦点。从2022年开始，数据安全就已在国内数十个数字安全领域中位列融资数量第一。进入2023年，仅就国内来说，“数据二十条”与“数据资产入表”（《企业数据资源相关会计处理暂行规定》，2024年1月1日起施行），将数据安全的强合规要求按下了倒计时加速键。 

再看国际方面，以色列数据安全初创公司Cyera在今年6月B轮融资1亿美元；2016年成立的美国数据安全初创公司OneTrust于今年7月份融资1.5亿美元，估值升至45亿美元；Palo Alto Network在10月以4亿美元收购以色列数据安全公司Dig Security……据国内调研机构数世咨询最新统计，2023年度全球网络安全投融资市场，数据安全融资数量仍将位列第一。

“数据二十条”、数字中国建设整体布局规划是数据要素基础制度，数据要素全流程合规与监管体系的顶层设计，企业数据资源相关会计处理暂行规定推动了数据资产入表的关键政策，也是数据要素资本化的重要的一步；各地方也在陆续推出数据要素市场化改革规范，数据基础制度综合改革先行先试，如：北京“数据二十条”，北京数据基础制度先行区启动等。

2023全球数商大会上提出的“数据要素×”行动，给技术型的数商企业带来了广阔机会。随着数据要素与其他要素的结合，新产业、新业态、新模式、新应用、新治理等不断被催生出来，而数商企业在开发数据产品以及数据产品上架时，就面临着各种合规和安全挑战。这意味着数据安全合规技术需要不断创新，如隐私计算、数据空间、区块链等等，能够与新业态、新场景、新模式等实现深度融合，适应数字基础设施建设和“数据要素×”行动的发展潮流，保障数字经济的合规有序发展。

随着国家数据局的正式挂牌，预计未来相关顶层设计指导文件也将陆续出台。同时，数据资产入表即将在2024年1月1日正式施行，为数据要素发展提供了更加完善的政策配套。预计2024年数据要素将进入政策密集推动期，相关数据流通交易、数据安全保障等市场将掀起新一轮增长浪潮。

在数据驱动的时代，隐私计算（Privacy Computing）重新定义了我们对数据隐私和安全的理解。隐私计算不仅是一项技术，它还是一种承诺——一种保护个人和组织数据隐私的承诺，同时允许数据在计算过程中得到安全处理和分析。这一技术框架内涵着对数据宝贵隐私的深度尊重，同时揭开了数据利用潜力的新篇章。

隐私计算的核心在于其多元化技术的应用，从数据加密到分布式计算，从差分隐私到同态加密，再到安全多方计算和可搜索加密。这些技术共同构成了一道强大的保护屏障，旨在保障数据在整个生命周期中的安全和隐私，同时不牺牲其可用性和价值。例如，同态加密技术允许在加密数据上进行计算，而无需先解密，保证了隐私的同时，不影响数据处理的需求。

隐私计算在众多领域展现出其巨大价值。在安全数据分析和威胁情报共享方面，用户可以在不泄露敏感数据的情况下，通过差分隐私或安全多方计算共享信息。此外，在数据交易和交换中，隐私计算保障了数据流通过程中的安全性和隐私性，使数据成为可以安全流通的重要资产。

随着中国国家数据局的成立，围绕数字政府、数字社会的建设目标，以及数字经济的快速增长，这预示着隐私计算将在未来扮演更加重要的角色。随着市场需求的增长，越来越多的网络安全厂商正在投入到这一领域，共同推动隐私计算技术的发展和应用。

随着组织的业务流程越来越复杂，数据不断增长，传统依靠人工进行数据安全风险评估的方式已经很难应对监管考核与流动数据的全面保护，组织的数据安全越来越需要依靠全生命周期的风险管控。

横向来看，企业内部的数据安全管控应从体系建设、管理制度、技术支持、人员素质等多个维度进行考量；纵向来看，企业对数据安全的管控应贯穿数据的整个生命周期，其中，数据的生产、采集、存储、交换、访问等过程节点尤为重要。

新的一年，各安全厂商围绕数据风险评估、风险监控与建模等安全视角更加丰富的产品有望进一步落地，帮助用户清晰了解数据安全状况，并根据数据风险评估对数据安全响应处置与安全策略进行协同联动，对风险开展持续监测，从而实现对已知的风险敞口进行主动防御。

未来，数据安全技术研究仍然面临着许多挑战，如何构建可控、可信、可管的数据安全防护体系，成为数据安全领域需要解决的重要问题。比如如何使企业既能安全保存数据，又能科学挖掘利用数据价值，即数据安全与共享的均衡问题；如何使数据既能被安全共享，又能保护个人隐私信息，即共享和隐私保护的均衡问题；如何不断完善数据安全标准，推动数据安全保障工程的实施建设等，这些细分问题还有待进一步研究解决。

从破坏数据到窃取数据，再到售卖数据和泄露数据，甚至会令生产经营停滞，产生重大经济名誉损失。由于巨大的经济利益和使用便利，勒索软件已经形成从编写人到代理人，再到分发者和“钱骡”等完备的运转链条，“勒索软件即服务（Ransomware as a Service）”已经成为全球最大的黑灰产商业模式之一。

知名安全公司sophos发布的《2023勒索软件态势报告》显示，66%的机构在过去一年中遭受过勒索软件攻击。其中，76%的攻击导致数据被加密。受害机构为此而付出的平均成本为182万美元。

防御勒索软件需要综合性的安全体系，对此，业内各安全厂商也发展出了不同的技术防御路线，如文件系统级防篡改、系统进程实时检测，以及数据库系统恢复等手段。

无加密勒索攻击会跳过加密过程，只是单纯窃取用户敏感数据。其采用的策略是威胁受害者，如果受害者不缴纳赎金，将会泄露从受害者处盗取的数据。数据是企业的重要资产，数据泄露将给企业带来不可预估的损失，导致企业信誉受损，客户信任度降低因此，窃取数据威胁用户泄露数据，提高了用户支付赎金的概率。

另一方面，无加密勒索缩短了软件开发周期和解密过程，将会为勒索团伙带来更快、更大的利润。由于这种攻击不会加密文件和锁定系统，很难引起用户的注意，更加容易逃避杀软检测。我们预测，无加密勒索攻击或将成为下一代主流勒索攻击方式。

此外，亚信安全还预测，勒索团伙将更多地利用零日漏洞发动攻击。2023年，CLOP勒索团伙成功利用 MOVEitTransfer文件传输漏洞发动了大规模勒索攻击，其影响波及全球数百家公司 ，且规模在持续扩大。CLOP的成功将会吸引更多勒索团伙对零日漏洞关注，我们预测2024年将会有更多的勒索团伙利用零日漏洞发动攻击，而且会逐渐缩短漏洞从披露到首次被利用的时间。

过去几年，勒索软件攻击不仅没有减少，反而变本加厉，高利润的回报刺激着更多的犯罪分子加入勒索行业。《2023年勒索软件趋势报告》数据显示，85%的公司遭遇过至少一次勒索软件的攻击，大约有17%的企业在过去的12个月经历了4至5次，甚至6次以上的攻击。

在众多勒索软件攻击事件中，大部分的勒索团伙采用了双重勒索策略，即攻击者会首先窃取大量的敏感商业信息，然后对受害者的数据进行加密，并威胁受害者如果不支付赎金就会公开这些数据，以数据泄露引发的商誉损害与法律追责等手段威胁受害者支付巨额赎金。

与此同时，黑客的网络攻击已经从之前只针对公司变成了针对软件供应链，脆弱的软件供应链已经逐渐成为黑客获取有价值商业信息的方法。过去三年中，软件供应链攻击增加了742%。Gartner研究预测，到2025年，45%的公司将遭受供应链攻击。

因此，针对数据破坏和勒索已成为当前企业数据安全面临的最大的挑战。由于勒索软件具有很高的隐蔽性和伪装性，一旦进入网络/主机层后，往往攻击者会潜伏很长时间，在获取更高的权限并掌握大量关键数据后才会发起勒索，此时网络/主机层往往已经无法阻止勒索攻击。利用零日漏洞、应用API漏洞的勒索攻击事件也频频出现，使企业受制于勒索组织，陷入被动局面。因此，如何构建更完整的勒索软件防护闭环，在勒索软件的潜伏期保护好企业的核心关键数据，守住数据安全最后一道防线显然至关重要。

瑞数信息专家认为，随着网络犯罪分子专业化程度的提升，勒索软件数量还将显著增长，攻击者的数量也将达到空前的程度，并着力于攻击供应链服务。传统防勒索视角的方式已然不能全面应对勒索攻击，应当具有底线思维的反勒索视角的手段，应对当下的勒索攻击，更好地保护业务和数据资产。

对此，有效应对勒索软件攻击的首要步骤是确保良好的数据备份，通过数据安全闭环防护体系——事前数据健康体检再开始备份、事中智能威胁检测防止对备份数据的破坏篡改、事后快速响应恢复干净可用数据，来提高数据反勒索的效率。越来越多的企业会认识到数据备份和恢复的重要性，2024年企业在数据备份解决方案方面的预算有望进一步上涨。

从攻击者角度来说，攻击目标的上游软件供应链是有效的攻击切入点；从安全防护的角度来说，将安全左移到软件开发阶段是更加事半功倍的有效响应手段。攻防两端“双向奔赴”下的软件供应链安全，成为国际、国内安全市场中公认的热点领域。  

2023年，美国网络安全和基础设施安全局、国家安全局联合其他部门，发布了软件供应链安全的新指南。指南建议所有组织机构都将主动管理和缓解风险作为不断发展的软件安全开发实践的一部分。组织机构作为软件供应链中的开发者、供应商或客户等角色，将持续决定这一责任的形式和范围。

软件成分分析（SCA）、软件物料清单（SBOM）等细分赛道都有多家初创企业成立、融资或被大厂收购。据统计，开发与应用安全/软件供应链安全，均位列2022年/2023年数字安全投融资领域数量的前三。

攻击者会将目标锁定在供应链上的任意薄弱环节，利用防御力不足的供应链作为攻击途径。攻击者通过供应商、集成商或开发人员来实现他们的目标。因中小型企业缺乏APT攻击防护，很容易成为击者访问企业数据和基础设施的入口。

亚信安全预测，攻击者将通过供应商的持续整合/持续交付 (CI/CD）系统来渗透供应商的软件供应链，直接对源头进行打击，也就是针对IT基础构架的底层代码，瞄准第三方元件（函式库、流程与容器）来发动攻击。

横向比较各家发布的2024安全技术趋势预测，除了上述这些除了以上这些热门方向之外，能够看到各家安全厂商还站在自身的专业领域，就相关的技术趋势进行了分析。

比如360重点分析了未来一体化终端安全、APT与网络战、安全运营、安全即服务和信创等趋势，充分展现了一家头部安全厂商具备的国际化视角；亚信安全跟多维度的对攻防对抗趋势的变化、技术的演进迭代进行了分析，展现了自身在专业技术层面的前瞻性；山石网科还重点就企业级浏览器、远程浏览器隔离、Linux的内核安全、BAS入侵和攻击模拟以及ITDR身份威胁检测与响应等网络安全领域前沿技术进行了分享，更加着眼于产业下一步即将落地的技术方向；瑞数信息重点就下一代应用安全WAAP的演进进行了分析，从一家应用安全厂商的角度，剖析了未来应用安全建设的路径和方向。

迈入2024年，可以预见，围绕人工智能、量子计算、物联网、区块链等前沿技术交织的立体化、智能化攻防博弈将会愈演愈烈。我们期待在这个日新月异的时代里，创新技术能够不断赋能网络安全产业发展，构筑起更为坚韧、智能、全面的安全防线，以应对未来的各种安全威胁，为企业的数字化转型提供更可靠的安全防线。