NVIDIA
-
如何评估AI芯片的能效比？深入浅出解析指南
随着人工智能 (AI) 的蓬勃发展，AI芯片作为其核心驱动力，受到了前所未有的关注。在选择AI芯片时，除了关注其算力之外， 能效比 (Performance per Watt) 也是一个至关重要的指标。它直接关系到芯片的运行成本、散热需...
-
游戏帧数总掉？这几款帧数监控神器，让你轻松了解电脑性能瓶颈！
还在为游戏时画面卡顿而烦恼吗？想知道是CPU拖了后腿，还是显卡不够给力？别担心，今天我就来给大家推荐几款超实用的帧数监控软件，让你轻松掌握电脑性能，告别游戏卡顿！ 为什么要监控帧数？ 简单来说，帧数（FPS，Frames Per ...
-
显存不够也能玩转AI制药：本地低配环境搭建 RFdiffusion + ProteinMPNN 工作流指南
作为蛋白质 de novo 设计领域的“黄金搭档”，RFdiffusion（负责骨架生成）和 ProteinMPNN（负责序列设计）几乎是目前计算生物学研究的标配。然而，官方文档中动辄要求 A100 或 24G 显存显卡的配置，让许多只有...
388 蛋白质设计 -
如何本地免商业授权费部署 AlphaFold 3？（附抗体-抗原复合物预测实操指南）
Google DeepMind 在 2024 年 11 月正式开源了 AlphaFold 3 (AF3) 的源代码及模型权重（针对学术与非商业用途）。这意味着研究人员终于可以摆脱 Web 服务器每天的提交限制，在本地环境中运行这一顶尖...
-
单卡 RTX 4090 本地部署 AlphaFold 3 实操与显存优化指南
Google DeepMind 正式开源 AlphaFold 3 (AF3) 的源代码和模型权重后，生命科学与 AI 交叉领域的开发者迎来了一波本地部署热潮。 虽然官方推荐使用 A100/H100 等企业级显卡，但对于预算有限的个人开...
-
GROMACS 中「-update gpu」报错的深度排查与解决方案：从算法限制到硬件配置
在分子动力学模拟中，GROMACS 的 -update gpu 参数（即在 GPU 上进行坐标/速度更新和约束求解）是压榨 GPU 性能、实现「极速模拟」的关键。通过将 Update 步骤留在 GPU 上，可以彻底避免每一帧在 CPU...
-
单GPU多MPI跑GROMACS：如何通过NVIDIA MPS优化性能并彻底避免显存溢出
在利用高性能计算（HPC）集群运行分子动力学模拟时，GROMACS 凭借其对 GPU 的高效支持成为了行业标配。然而，在实际生产环境中，我们经常会遇到这样的尴尬场景： 当模拟的体系较小（如少于 10 万原子），或者 CPU 核心数较...
-
多卡多NUMA服务器性能调优：MPI进程、GPU与MPS守护进程的最优绑定实践
在多卡多NUMA（Non-Uniform Memory Access）架构的服务器上运行MPI（Message Passing Interface）大规模并行程序时，默认的调度策略往往会导致灾难性的性能抖动。 如果一个MPI进程运行在...
-
为什么开启 NVIDIA MPS 后 MPI 进程会突发 CUDA_ERROR_OUT_OF_MEMORY？原理剖析与排查指南
在利用 MPI（Message Passing Interface）进行多进程并行计算或分布式深度学习训练时，为了提高 GPU 利用率，我们常常会开启 NVIDIA MPS（Multi-Process Service）。MPS 的初衷是允...
-
Slurm 调度下 MPI 作业的 NVIDIA MPS 动态启停与自动配置方案
在利用 Slurm 调度器运行 MPI 多机多卡作业时，若多个 MPI 进程（Ranks）需要共享同一张 GPU 卡，默认情况下会因为 CUDA Context 切换开销巨大而导致显卡利用率低下。NVIDIA MPS（Multi-Proc...
-
多节点 Slurm 集群中，如何用 Ansible 优雅地批量维护与巡检 GPU MPS 状态？
在大型 GPU 算力集群中，为了提升中小显存占用任务的吞吐量， NVIDIA MPS（Multi-Process Service，多进程服务） 是一个几乎必选的方案。配合 Slurm 的 gres/mps 机制，多任务可以物理共享单...
-
为什么在大规模 DDP 分布式训练中，开启 NVIDIA MPS 反而是个“灾难”？
在日常的 GPU 算力优化工作中， NVIDIA MPS（Multi-Process Service，多进程服务） 经常被誉为提升 GPU 利用率的“银弹”。在单卡运行多个轻量级推理任务，或者小规模多进程数据处理时，MPS 通过允许多个...
-
深度解析：NVIDIA MIG 与 MPS 在算力切分上的底层隔离机制有何本质不同？
在 GPU 算力虚拟化和多租户共享的场景中，NVIDIA 提供了两种主流的切分技术： MPS（Multi-Process Service，多进程服务） 和 MIG（Multi-Instance GPU，多实例 GPU） 。 虽然这...
-
K8s 混合调度 MIG 与 MPS 的终极实践：把 GPU 榨出最后一滴油水
在 AI 推理服务的生产环境中，最让基础设施团队头疼的，莫过于 “显存闲置” 与 “算力浪费” 。 普通的 AI 推理任务（尤其是中小模型、NLP 分类、OCR、语音识别等）往往呈现“高频、低延迟、低 GPU 利用率”的特点。如...
-
突破通信瓶颈：vLLM 混合并行与 K8s 拓扑感知调度深度实践
在大规模 LLM（如 Llama-3-70B、Mixtral-8x22B 等）推理场景下，基于 vLLM 的分布式推理服务面临着极其严苛的时延挑战。 Tensor Parallelism（张量并行，简称 TP）由于在每个 Transf...
-
保姆级教程：单显卡（Single GPU）如何通过 Libvirt Hook 完美直通 KVM 虚拟机
在多显卡或双显卡（如核显+独显）的场景下，显卡直通（GPU Passthrough）相对简单。但在**单显卡（Single GPU）**的宿主机上，直通意味着在 VM 启动时，宿主机必须动态地释放唯一的显卡，将其绑定给 VFIO 驱动；在...
-
PVE 虚拟机 vs LXC 容器：Jellyfin 硬件解码直通深度评测与避坑指南
在 Proxmox VE（PVE）环境下部署 Jellyfin 媒体服务器时，如何让其高效地调用显卡（核显或独显）进行硬件转码，是每个 HomeLab 玩家必须要面对的课题。 最常见的两条路线是：**LXC（Linux 容器）**与 ...
-
PVE 8.0 NVIDIA 独显直通与 vGPU 全攻略：从底层硬件到完美解决 Code 43 与授权痛点
在 Proxmox VE (PVE) 8.0 环境下，将 NVIDIA 显卡直通给 KVM 虚拟机（Windows/Linux）或实现 vGPU 分流，是搭建高性能家用服务器、云游戏主机或 AI 绘图环境的常见需求。PVE 8.0 采用了...
218 1 Proxmox VE显卡直通 -
PVE 8.1 升级后 PCIe 直通失效？彻底解决 vfio-pci Cannot read device rom 报错
PVE 8.1 升级将系统内核推进到了 6.5+ 版本（甚至后续更新到了 6.8）。内核版本的跨越式升级带来了更严格的设备安全检测、变化了的 IOMMU 组划分逻辑，以及全新的驱动加载顺序。 如果你在升级后启动虚拟机时，遇到了类似以下...
-
KVM显卡直通后Windows虚拟机爆音、画面卡顿？一文搞定MSI中断与QEMU延迟优化
在玩 KVM/VFIO 显卡直通（Passthrough）时，很多人好不容易解决了显卡驱动的“Code 43”报错，却卡在了最后一步： Windows 虚拟机里声音噼里啪啦像放鞭炮，打游戏、看视频时偶尔还会出现掉帧和微卡顿（Micro-s...
