mGPU 技术揭秘： mGPU 算力和显存隔离底层方案
来源 | 字节跳动 STE 团队 & 火山引擎云原生团队AI 大模型的涌现，不仅推动了 AI 技术的边界，也对计算资源提出了前所未有的挑战。大模型的多样性要求计算资源具备高...
admin
云原生GPU虚拟化技术sGPU
01背景近年来随着深度学习的快速发展，AI在很多领域的应用越来越广泛，算力作为推动AI快速发展的三驾马车之一，起到了至关重要的作用。而GPU作为AI算力的主要资源，其使用规模越来越...
Linux(内核剖析):11---进程调度之实时调度策略（SCHED_FIFO、SCHED_RR、MAX_RT_PRIO实时优先级）
**Linux提供了两种实时调度策略：**SCHED_FIFO和SCHED_RR普通的、非实时的调度策略是SCHED__NORMAL借助调度类的框架，这些实时策略并不被完全公平调度器来管理， 而是被一...
深入理解 Linux 内核---进程调度
调度策略传统 Unix 操作系统的调度必须实现几个冲突的目标：进程响应时间尽可能快，后台作业的吞吐量尽可能高，尽可能避免进程的饥饿现象，低优先级和高优先级的进程需要尽可能调和等等。调度策略：决定什么时...