SR IOV
-
突破通信瓶颈:vLLM 混合并行与 K8s 拓扑感知调度深度实践
在大规模 LLM(如 Llama-3-70B、Mixtral-8x22B 等)推理场景下,基于 vLLM 的分布式推理服务面临着极其严苛的时延挑战。 Tensor Parallelism(张量并行,简称 TP)由于在每个 Transf...
-
如何在非特权(Non-privileged)容器中,安全部署基于 SPDK 与 AF_XDP 的 K8s 高性能网络?
在 Kubernetes 节点上部署基于 SPDK (Storage Performance Development Kit) 和 AF_XDP (Address Family XDP) 的高性能网络或存储组件时,传统的做法通常是...
-
Linux 虚拟机开启 3D 加速的底层逻辑与性能瓶颈是什么?
在虚拟机(VM)里玩 3D 游戏或者运行复杂的 WebGL 应用,历来是一件让人头疼的事。很多人会发现,即使主机的显卡性能爆炸,虚拟机里拉动一个 3D 窗口依然卡顿。 要理解这个现象,我们需要扒开虚拟机图形栈的底层,看看 3D 渲染指...
-
PVE 玩转 Intel 核显 GVT-g 虚拟化:保姆级配置步骤与那些折腾出的血泪坑
在 Homelab 的世界里,如何榨干一台小主机的核显性能是一门必修课。 如果你的需求是: 既要 Windows 虚拟机有图形加速(不卡顿、能跑轻量 3D),又要 Linux 虚拟机(如 Jellyfin/Plex)能同时进行硬件解码...
-
PVE 虚拟机 vs LXC 容器:Jellyfin 硬件解码直通深度评测与避坑指南
在 Proxmox VE(PVE)环境下部署 Jellyfin 媒体服务器时,如何让其高效地调用显卡(核显或独显)进行硬件转码,是每个 HomeLab 玩家必须要面对的课题。 最常见的两条路线是:**LXC(Linux 容器)**与 ...
-
PVE核显虚拟化(vGPU/SR-IOV)避坑:如何彻底解决多虚机画面撕裂与串流延迟?
在 Proxmox VE(PVE)下将 Intel 核显(从老一代的 GVT-g 到第 12/13/14 代及 Alder Lake/Raptor Lake 的 SR-IOV)直通给多个虚拟机(VM)使用,是搭建家用高密度云桌面、多路高清...