TOP5 | 头条：警惕Hugging Face开源组件风险被利用于大模型供应链攻击

警惕Hugging Face开源组件风险被利用于大模型供应链攻击；

标签：Hugging Face，大模型供应链攻击

近日，腾讯朱雀实验室发现著名AI社区Hugging Face开源组件datasets存在不安全特性，可引发供应链后门投毒攻击风险。AI开发者使用该组件加载攻击者构造的包含恶意代码的数据集时，会导致PC/服务器被入侵，同时在大模型预训练、微调等场景中，最终还可能导致大模型参数被窃取或篡改。

朱雀在此建议大家及时排查，同时也将持续进行大模型基础设施安全研究，分享团队在大模型时代下对于前沿安全攻防技术的思考与实践，保障大模型安全、可靠地落地应用，与行业共同提升大模型生态安全性。

作为“AI领域的GitHub”，全球最具影响力的AI开源社区，Hugging Face 提供了大量高质量的开源模型、数据集以及AI应用托管服务，极大地降低了AI的技术门槛，该组织开源的transformers、datasets等组件也在AI领域被广泛使用。

其中datasets组件(github.com/huggingface/datasets)为广大开发者提供了一种高效、易于使用的方法来处理各种数据集，能够更轻松地训练和微调 AI 模型，在Github上有17k+ Star，是目前最流行的AI数据集开源组件。截止2023年10月，Hugging Face平台托管了73763个公开数据集供开发者使用，开发者可以使用datasets直接加载平台所有公开数据集。

信源：https://www.secrss.com/articles/60337

新加坡金管局：星展银行暂停非必要IT更新6个月；

标签：新加坡，金管局

《银行科技研究社》（作者 木子剑）：11月1日，新加坡金融管理局（MAS，以下简称“金管局”）发布公告称，对星展银行的非必要IT变更暂停6个月，以确保该行专注于恢复其数字银行服务的弹性。在此期间，星展银行将不得收购新的企业，也不得缩减其在新加坡的分行和ATM网络的规模。

星展银行方面回应，该措施主要暂停非必要的技术更新和新机构的收购业务，目前现有业务和客户并未受影响。星展银行发布公告，为一系列数字银行服务中断进行道歉，并制定全面的路线图，以提高技术弹性。路线图包括加强技术治理、人员/领导、系统和流程的措施，目前已采取部分措施，其他则是长期的措施。

据《银行科技研究社》了解，金管局采取这样的行动，是因为星展银行的服务在今年有过多次和长期中断，分别发生在2023年3月29日、5月5日、9月26日、10月14日和20日。

2023年4月，金管局便指示星展银行聘请独立第三方，对支持其数字银行服务的人员、流程和技术的有效性和充分性进行全面审查。

信源：https://www.secrss.com/articles/60378

GenAI生成“2024年网络安全预测”；

标签：GenAI

过去一年里，像ChatGPT这样的生成式人工智能（GenAI）应用程序已经渗透到我们生活的方方面面。从生成营销内容，到为广告和博客创建图像，甚至是编写恶意代码……我们每天都在以某种方式与生成式人工智能的结果进行交互。

为了验证GenAI的能力，网络安全专家Stephen Salinas用ChatGPT生成了2024年网络安全预测结果，并对每项预测结果进行了评分。

预测1：勒索软件继续进化，并瞄准关键基础设施

未来一年，勒索软件攻击的复杂性和强度可能都会不断演进。此外，威胁行为者可能会越来越多地以能源、医疗、交通或金融等关键基础设施部门为目标，旨在破坏基础服务并索要高额赎金。除了加密受害者的文件外，恶意行为者还可能利用“双重勒索”或“三重勒索”等高级策略，以公布或出售被盗数据为威胁（双重勒索），并通过骚扰/恐吓受害者的亲友、客户等来施加压力（三重勒索）。

专家评分：B+

这项预测可以说是在意料之内，毫无独特性，但这并不意味着它的准确性缺失。毫无疑问，勒索软件在2024年将继续成为困扰企业的一个大问题。就在上个月，米高梅大酒店（MGM Grand）遭到大规模勒索软件攻击，导致正常业务运营中断，损失高达1亿美元。

攻击者将在未来一年继续在所有行业部署这类攻击，任何类型的组织都不能心存侥幸，针对这种情况，组织能做的就是继续加强自身的防御能力。事实上，在许多情况下，通过对员工进行更多的网络安全培训，在出现已知漏洞时及时修补漏洞，并确保适当的网络分段，便可以有效避免勒索软件攻击。

预测2：人工智能驱动的网络攻击

恶意行为者可以利用人工智能（AI）和机器学习（ML）来增强网络攻击的能力和效率。人工智能驱动的攻击可能包括更令人信服的网络钓鱼尝试、自动恶意软件创建、逃避安全措施以及个性化的社会工程攻击，这使得传统防御机制更难检测和预防它们。

专家评分：A++

这一预测让人想起了《2001太空漫游》（2001: A Space Odyssey）中的著名场景，机载人工智能HAL告诉Dave，它知道Dave准备关闭它让它失去能力的计划，并且它不会让Dave这么做。GenAI应用程序ChatGPT预测，GenAI将使传统手段更难阻止攻击，这一事实即使不能说明人工智能在当今世界的强大，也肯定具有讽刺意味。

大多数组织都在努力制定未来如何应对人工智能驱动的攻击的战略，但目前还没有明确的领先方法。供应商将在2024年推出新的产品和功能，试图识别和阻止人工智能驱动的攻击，这些攻击使用人工智能来识别人工智能攻击，这让人想起经典电影《战争游戏》（War Games）中的另一个著名场景。

在电影的终极场景中，WOPR控制了核导弹代码，并试图发动第三次世界大战。我们的英雄在一场井字游戏（Tic-Tac-Toe）中让电脑与自己对抗，结果电脑因无法获胜而自我终止程序，避免了一场全球热核战争（这个结果对我们来说无疑是幸运的）。

抛开玩笑不谈，一旦攻击者将人工智能的全部力量纳入其中，短期内未来的威胁形势可能会与今天大不相同。前瞻性的安全团队需要保持警惕，寻找新技术来增强他们现有的安全控制措施；否则，他们努力争取的战场可能很快就会变得“一边倒”——而且与他们想要的方向背道而驰。

预测3：物联网设备和智能基础设施中的漏洞利用

随着物联网设备的日益普及以及智能城市和家庭的发展，网络犯罪分子可能会利用这些互联系统中的漏洞。攻击的范围可能从基于物联网的僵尸网络进行DDoS攻击，到通过受损的智能设备未经授权访问敏感数据，这强调了对强大的安全措施和物联网特定型防御策略的需求。

专家评分：A

传统IT基础设施和不断扩大的物联网世界之间的界限正在迅速消失，攻击者也深知这一点。最近，在一起不太为人知的攻击中，恶意行为者通过一个联网的鱼缸温度计渗透到了目标组织的内部环境中。一旦他们控制了温度计，就可以进一步跳转到内部网络并部署攻击。

如今，联网的电器已经不再仅限于电脑、电视机和手机，洗衣机和烘干机会在循环完成后向用户手机发送通知；摄像头会全天候地监控家里的一举一动……然而，我们所享受的一切便利都是有代价的。

对于安全团队来说，保护整个环境的最佳方法是确保员工和承包商使用的物联网设备与内部网络适当隔离，最大限度地减少攻击者将联网设备变成初始攻击媒介的机会。

预测4：供应链攻击和第三方风险

供应链攻击可能会变得更加普遍，因为攻击者已经意识到通过入侵软件供应商，破坏他们的产品，可以影响更广泛的组织，从而获得更高收益。第三方风险可能被利用来获得对网络的未经授权访问、注入恶意代码或窃取敏感数据。组织将需要专注于确保其供应链的安全，并密切审查第三方供应商的安全措施。

专家评分：A+

可怕的第三方风险甚至会让最自信的安全专家夜不能寐。随着组织规模的扩展以及对承包商的依赖加剧，他们中的某一个很可能会在不知不觉中沦为攻击的初始入口。例如，在2013年的塔吉特（Target）黑客事件中，一家第三方承包商遭到网络钓鱼攻击，导致数百万用户的数据泄露，损失超过2亿美元。

虽然那次攻击给许多组织敲响了警钟，让他们对自己的网络分段、第三方访问等问题变得更加警惕，但只有一些组织采取了适当的措施来确保自身免受类似攻击的伤害。

由于这一预测关注的是供应链，我们简要讨论一下。当供应链中断时，我们都能感受到。

还记得我们最喜欢的商店里，许多货架因新冠疫情而突然空无一物吗？现在想象一下，由于一次成功的网络攻击影响了我们所依赖的多个产品供应商，导致供应链中断，而且没有简单的解决方案。

不过，由于网络攻击而导致的广泛供应链中断的风险，可以通过良好的网络卫生和遵循架构最佳实践来缓解。虽然消除潜在的攻击是不现实的，但确保适当的网络分段，采用有关安全分析的新自动化功能，以及对每个人（包括承包商）进行适当的网络安全培训，可以最大限度地缓解风险。

结语

ChatGPT在其预测的最后表示，紧跟网络安全领域的最新发展，适应不断发展的新威胁，这一点至关重要。组织应该投资于主动的网络安全策略、员工培训和强大的事件响应计划，以减轻潜在风险。

总的来说，不得不承认，ChatGPT对2024年做出了一些相当不错且适用的预测。然而，事实是没有人知道新的一年将会发生什么，除了攻击者将继续攻击，防御者将继续防御，供应商和服务提供商将继续提供帮助。

信源：https://www.freebuf.com/news/382729.html

黑客正在利用 Citrix Bleed 漏洞攻击全球政府网络；

标签：Citrix Bleed

Bleeping Computer 网站披露，黑客正在利用 “Citrix Bleed “漏洞（被追踪为 CVE-2023-4966）攻击美洲、欧洲、非洲和亚太地区的政府机构、技术和法律组织。

Mandiant 研究人员表示，自 2023 年 8 月下旬以来，有四项网络攻击活动持续针对易受攻击的 Citrix NetScaler ADC 和 Gateway 设备。

2023 年 10 月 10 日，安全研究人员发现并披露 Citrix Bleed CVE-2023-4966 漏洞。该漏洞主要影响 Citrix NetScaler ADC 和 NetScaler Gateway，允许未经授权的网络攻击者访问设备上的敏感信息。漏洞修复程序发布一周后，Mandiant 又透露该漏洞自 8 月下旬以来一直处于零日攻击状态，威胁攻击者利用该漏洞劫持现有的已验证会话，绕过多因素保护。

据悉，威胁攻击者使用特制的 HTTP GET 请求，迫使目标设备返回身份验证后和 MFA 检查后发布的有效 Netscaler AAA 会话 cookie 等系统内存内容，在窃取这些验证 cookie 后，网络攻击者可以无需再次执行 MFA 验证，便可访问设备。

发现上述问题后，Citrix 再次向管理员发出了警示，敦促采取有效手段，以保护自己的系统免遭网络攻击。

10 月 25 日，AssetNote 研究人员发布了一个概念验证（PoC）漏洞，演示了如何通过会话令牌盗窃劫持 NetScaler 帐户。

信源：https://www.freebuf.com/news/382563.html

波音公司确认“网络事件”的影响，从 LockBit 赎金名单中离奇消失；

标签：波音公司

波音公司已向媒体证实，由于 LockBit 勒索团伙先前声称发生的“网络事件”，部分运营受到了影响。这家公司及其LOGO从 LockBit 的官方受害者数据泄露页面上神秘消失。

周三晚间，波音发言人对《网络新闻》表示：“我们意识到网络事件影响了我们的零部件和分销业务。”

周四凌晨，至少有一个与该业务相关的网站显示了一条消息，称该网站“因技术问题而停机”。目前尚不清楚此次中断是否与网络攻击有关。其他部分和配送站点似乎运行正常。

该发言人明确表示，网络问题“不影响飞行安全”。

“波音公司是一家市值 600 亿美元的公司，与其子公司一起在全球范围内设计、开发、制造、销售、服务和支持商用喷气式客机、军用飞机、卫星、导弹防御、载人航天以及发射系统和服务。” Lockbit勒索软件组织在其泄密网站上发布的消息称。

信源：https://mp.weixin.qq.com/s/wlK0Jz4q8bwVLQCNACVzXA