推荐
-
白嫖云端算力：如何用免费 Google Colab 运行 GPU 加速的 GROMACS 分子动力学模拟
对于从事计算生物学或计算化学的研究生和科研人员来说，本地缺乏高性能 GPU 算力是一个长期存在的痛点。Google Colab 提供的免费 T4 GPU 是一个极佳的“白嫖”资源。 本文将手把手带你配置 Google Colab 环境...
-
为什么开启 NVIDIA MPS 后 MPI 进程会突发 CUDA_ERROR_OUT_OF_MEMORY？原理剖析与排查指南
在利用 MPI（Message Passing Interface）进行多进程并行计算或分布式深度学习训练时，为了提高 GPU 利用率，我们常常会开启 NVIDIA MPS（Multi-Process Service）。MPS 的初衷是允...
-
Slurm 调度下 MPI 作业的 NVIDIA MPS 动态启停与自动配置方案
在利用 Slurm 调度器运行 MPI 多机多卡作业时，若多个 MPI 进程（Ranks）需要共享同一张 GPU 卡，默认情况下会因为 CUDA Context 切换开销巨大而导致显卡利用率低下。NVIDIA MPS（Multi-Proc...
-
多节点 Slurm 集群中，如何用 Ansible 优雅地批量维护与巡检 GPU MPS 状态？
在大型 GPU 算力集群中，为了提升中小显存占用任务的吞吐量， NVIDIA MPS（Multi-Process Service，多进程服务） 是一个几乎必选的方案。配合 Slurm 的 gres/mps 机制，多任务可以物理共享单...
-
K8s 混合调度 MIG 与 MPS 的终极实践：把 GPU 榨出最后一滴油水
在 AI 推理服务的生产环境中，最让基础设施团队头疼的，莫过于 “显存闲置” 与 “算力浪费” 。 普通的 AI 推理任务（尤其是中小模型、NLP 分类、OCR、语音识别等）往往呈现“高频、低延迟、低 GPU 利用率”的特点。如...
-
榨干 GPU 性能：Triton 动态批处理与队列超时的黄金调优法则
在 AI 异步推理和高并发在线服务（Model Serving）的场景中，NVIDIA Triton Inference Server 几乎是行业标配。然而，很多工程师在部署模型时，经常遇到一个两难困境： 追求吞吐量（Throu...
-
跨进程的极致性能：用 C++ 共享内存实现无锁队列的硬核细节
在开发高并发、低延迟的系统（如极速交易系统、音视频实时处理、高性能网关）时，多进程通信（IPC）是绕不开的瓶颈。很多人第一反应是使用 POSIX 共享内存（Shared Memory），毕竟直接读写物理内存的延迟是微秒级的。 为了榨干...
-
如果 Robust Mutex 的恢复线程在 consistent 之前再次崩溃，这把锁会经历什么？
在 Linux 多线程或多进程共享内存的并发编程中， Robust Mutex（鲁棒互斥锁） 是解决“持有锁的线程意外死亡导致死锁”的终极武器。 通常的流程是：线程 A 持锁崩溃 $ rightarrow$ 线程 B 接管并收到 ...
-
当进程因 OOM 被杀，共享内存中的 Robust Mutex 真的能 100% 释放吗？剖析内核层面的极致边界
在多进程共享内存的并发设计中， Robust Mutex（健壮互斥锁） 被广泛用于解决“持有锁的进程意外崩溃，导致其他进程永久死锁”的问题。 当一个进程因为内存耗尽（OOM）被内核发送 SIGKILL 强行杀掉时，大家通常认为内...
-
Linux 共享内存的深水区：shm_open 与 shmget 会被 Swap 交换吗？
在 Linux 系统底层开发和高性能服务优化中，共享内存（Shared Memory）是实现进程间零拷贝通信的王牌。但许多开发者在设计高并发、低延迟系统时，常常会忽略一个致命的隐患： 当宿主机物理内存不足时，通过 shm_open 或...
-
为什么高并发 Redis 实例启用透明大页（THP）后，写操作延迟会瞬间飙升？
在 Linux 环境下运行高并发 Redis 实例时，如果你阅读过 Redis 的启动日志，经常会看到这样一行显眼的警告： WARNING you have Transparent Huge Pages (THP) enabled ...
-
如何在非特权（Non-privileged）容器中，安全部署基于 SPDK 与 AF_XDP 的 K8s 高性能网络？
在 Kubernetes 节点上部署基于 SPDK (Storage Performance Development Kit) 和 AF_XDP (Address Family XDP) 的高性能网络或存储组件时，传统的做法通常是...
-
深度解析：多主（Multi-Master）架构下，高并发写入的冲突解决与一致性保障
在现代大规模分布式系统中，多主（Multi-Master，也称双活或多活）架构因其高可用性和就近写入的低延迟特性，成为许多跨国或跨地域业务的首选。然而，多主架构在享受“处处可写”便利的同时，也引入了分布式系统中最棘手的难题： 当多个节点在...
-
嫌 Cassandra 的 Paxos 慢？聊聊如何实现高性能的“无锁”强一致性写入
在分布式数据库领域，Cassandra 一直以极高的写入吞吐量（AP 系统的典范）著称。然而，一旦业务场景要求 强一致性（Linearizability） ，比如余额扣减、唯一性约束，大家的第一反应往往是使用 Cassandra 的轻量级...
-
彻底解决 RocksDB Write Stall：当 pending compaction bytes 激增，如何平滑限流避免延迟抖动？
在基于 LSM-Tree（Log-Structured Merge-Tree）架构的存储引擎（如 RocksDB）中， Write Stall（写入停顿） 是最令架构师和 DB 运维人员头疼的性能杀手。当写入速度远超后台 Compact...
-
PVE直通万兆网卡高负载下载时宿主机直接死机失联，该怎么抓取崩溃日志？
在玩 Homelab 或者企业私有云时，PVE（Proxmox VE）直通万兆网卡（如 Intel X520/X540、Mellanox ConnectX-3/4、Aquantia 等）是压榨网络性能的常见操作。 然而，不少人会遇到一...
-
高并发下 Linux 服务器 softirq 飙高？从底层原理到实战调优指南
在高并发（尤其是海量小包网络吞吐）的场景下，Linux 服务器的 CPU 使用率中经常会出现 si (softirq，软中断) 占比极高、甚至单核被压死的现象。伴随而来的往往是丢包、延迟飙升以及吞吐量严重下滑。 要彻底解决这个问题...
-
PVE 升级后直通网卡频繁掉线？手把手教你安全回退并永久锁定内核版本
在玩 PVE（Proxmox VE）和软路由（如 OpenWrt）的圈子里，有句流传很广的话：“ 没事别瞎升级 ”。 很多折腾 All in One 的朋友，手痒点了 PVE 的系统更新，把内核从 5.15 升级到 6.2 甚至 6....
-
Arch Linux 下配置 Looking Glass 的权限与 Socket 避坑指南
在 Arch Linux 上搞定了 GPU 直通（VFIO）后，很多人的最后一步是配置 Looking Glass 从而在 Linux 宿主机上无缝低延迟玩 Windows 虚拟机游戏。 然而，Looking Glass 极度依赖**...
-
榨干显卡直通性能：Proxmox VE (PVE) 虚拟机配置 Looking Glass 极速无延迟串流指南
在玩转 Homelab 和 PVE 显卡直通时，很多人会遇到一个棘手的问题： 如何无延迟地在另一台设备（或宿主机本身）上操作虚拟机？ 传统的 RDP（远程桌面）由于协议限制，不仅砍掉了显卡加速，玩游戏还会有明显的音频与画面延迟；VN...
427 Proxmox VE显卡直通
