GPU集合通信库在B站的应用和改进
1. 背景上篇文章 深入探讨了大型语言模型（LLMs）在硬件资源方面的需求和面临的挑战，详尽地阐述了如何进行大模型的硬件选型，以及在实际工作中如何根据模型的特定需求来优化硬件资源...
admin
同样都是高性能计算 (HPC) 领域网络互连技术，NVLink 与 InfiniBand有啥区别？
当谈及高性能计算和数据中心领域的网络互连技术时，NVLink 和 InfiniBand 无疑是两个备受关注的话题。它们代表了当今领先的高速通信技术，为连接计算节点、存储设备和加速器...
美团外卖基于GPU的向量检索系统实践
总第587篇 | 2024年第007篇到家搜索业务具有数据量大、过滤比高等特点，为了在保证高召回率的同时进一步提高检索性能，到家搜索技术团队与美团基础研发机器学习平台团队基于GPU...
每日安全动态推送(3-21)
Tencent Security Xuanwu Lab Daily News• Players hacked during the matches of Apex Legends...
GPU共享调度技术调研报告（下篇）
阅读上篇请点击👉08GaiaGPU：在容器云中共享 GPU容器的资源不仅影响应用程序的性能，甚至决定应用程序的状态。然而，用户在创建容器时无法准确估计所需的资源。因此，GaiaGP...
乘云向未来 | 算力基础设施护航业务平稳上云实践
数字时代，云始终是企业实现数字化转型和增长的关键底座。随着新一轮公共云竞争的日渐火热，新的基于算力和基础设施的需求蓬勃生长。在这场上云热潮中，什么样的基础设施产品能够打出优势，竞得...
安全简讯（2024.01.18）
每日头条1. GPU中严重漏洞LeftoverLocals可导致未授权访问1月16日，在高性能计算和人工智能的快节奏世界中，GPU 已成为不可或缺的动力源。但在其令人印象深刻的功能...
每日安全动态推送(1-19)
Tencent Security Xuanwu Lab Daily News• Deep Dive: Malware Hunter: ・ Malware Hunter是一种用于...
趋势丨生成式人工智能时代的5大网络安全趋势
随着GenAI在网络边缘变得越来越普遍，引入了新的漏洞类型，要求公司积极主动地更新其安全措施。实时监控、零信任架构都是有效保护不断扩大的攻击面的综合战略的关键组成部分。随着生成式A...
云原生GPU虚拟化技术sGPU
01背景近年来随着深度学习的快速发展，AI在很多领域的应用越来越广泛，算力作为推动AI快速发展的三驾马车之一，起到了至关重要的作用。而GPU作为AI算力的主要资源，其使用规模越来越...