HPC系统专家
-
多卡多NUMA服务器性能调优:MPI进程、GPU与MPS守护进程的最优绑定实践
在多卡多NUMA(Non-Uniform Memory Access)架构的服务器上运行MPI(Message Passing Interface)大规模并行程序时,默认的调度策略往往会导致灾难性的性能抖动。 如果一个MPI进程运行在...
-
为什么开启 NVIDIA MPS 后 MPI 进程会突发 CUDA_ERROR_OUT_OF_MEMORY?原理剖析与排查指南
在利用 MPI(Message Passing Interface)进行多进程并行计算或分布式深度学习训练时,为了提高 GPU 利用率,我们常常会开启 NVIDIA MPS(Multi-Process Service)。MPS 的初衷是允...