PCIe
-
深入解析HSM的硬件架构与安全机制
**硬件安全模块（HSM）**是一种专用于保护加密密钥和执行加密操作的硬件设备。其核心目标是确保密钥的安全性和加密操作的完整性。本文将详细解析HSM的硬件架构、安全机制以及常见的攻击手段和防御措施，帮助安全研究人员和硬件工程师更深入地理解...
-
Slurm 调度下 MPI 作业的 NVIDIA MPS 动态启停与自动配置方案
在利用 Slurm 调度器运行 MPI 多机多卡作业时，若多个 MPI 进程（Ranks）需要共享同一张 GPU 卡，默认情况下会因为 CUDA Context 切换开销巨大而导致显卡利用率低下。NVIDIA MPS（Multi-Proc...
-
深度解析：NVIDIA MIG 与 MPS 在算力切分上的底层隔离机制有何本质不同？
在 GPU 算力虚拟化和多租户共享的场景中，NVIDIA 提供了两种主流的切分技术： MPS（Multi-Process Service，多进程服务） 和 MIG（Multi-Instance GPU，多实例 GPU） 。 虽然这...
-
Triton BLS 性能优化：如何优雅地实现 PyTorch 与 Triton Tensor 的「零拷贝」转换
在 Triton Inference Server 中编写 Python BLS（业务逻辑脚本）时，一个最容易忽视但也最致命的性能瓶颈就是 GPU 与 CPU 之间不必要的内存拷贝 。 很多刚接触 Triton 的同学，在编写 Py...
-
突破 IPC 瓶颈：如何在 Triton Python Backend 中优雅地使用 CUDA Shared Memory？
在高性能深度学习推理场景中， Triton Inference Server 凭其优秀的并发处理能力被广泛采用。然而，许多团队在使用 Python Backend 编写自定义预处理或模型后处理逻辑时，常常会遇到性能瓶颈。 这个瓶...
-
N100 部署 PVE 8.1：用 SR-IOV 虚拟显卡完美搞定黑群晖 Photos 人脸识别与 Plex 硬解转码
在单台轻量级服务器（如搭载 Intel N100 处理器的小主机）上，既想让 PVE 主机保留控制台输出，又想让黑群晖（DSM）实现独占般的显卡硬件加速（用于 Plex/Jellyfin 转码和 Synology Photos 人脸识别）...
-
N100核显SR-IOV虚拟化：PVE 8.x下Jellyfin与Plex开启QSV硬解保姆级教程
在 PVE 8.x 下，Intel N100 凭借其极低的功耗和出色的 QSV 解码能力，成为了家用 NAS/All-in-One 路由器的明星 CPU。传统的核显直通（Passthrough）只能将核显分给单一虚拟机，而通过 SR-I...
-
拒绝重启：KVM 虚拟机 SR-IOV 直通极速网络与网卡热插拔实战
在高性能计算、低延迟网络传输（如金融交易、电信网元 NFV）等场景下，普通的 VirtIO 虚拟网卡即使开启了 vhost-net，也无法满足极致的吞吐和延迟要求。**SR-IOV（Single Root I/O Virtualizati...
-
PVE直通网卡后进不去后台？教你用虚拟网桥解决管理口冲突
玩 All-in-One 或者是软路由双系统的小伙伴，大概率都遇到过这个“名场面”： 在 Proxmox VE（PVE）后台，兴奋地把物理网卡（比如板载的 Intel i226-V）顺手配置了 PCIe 直通 给 OpenWrt/i...
-
拒绝黑屏与切源：用 Looking Glass 实现 KVM 虚拟机超低延迟无感画面回传
在搞定 KVM 显卡直通（VFIO）后，很多人面临的下一个痛点就是 显示输出 。 传统的物理双线接单显示器需要频繁切换信号源，而使用物理采集卡又存在额外的延迟和成本。RDP 或 VNC 这类网络串流方案对于游戏或高刷场景来说，高压缩率...
