运行 最新排序

• 突破通信瓶颈：vLLM 混合并行与 K8s 拓扑感知调度深度实践

  在大规模 LLM（如 Llama-3-70B、Mixtral-8x22B 等）推理场景下，基于 vLLM 的分布式推理服务面临着极其严苛的时延挑战。 Tensor Parallelism（张量并行，简称 TP）由于在每个 Transf...

  389 2026/6/14 vLLMKubernetes拓扑感知调度GPU优化

• K8s 混合调度 MIG 与 MPS 的终极实践：把 GPU 榨出最后一滴油水

  在 AI 推理服务的生产环境中，最让基础设施团队头疼的，莫过于 “显存闲置” 与 “算力浪费” 。 普通的 AI 推理任务（尤其是中小模型、NLP 分类、OCR、语音识别等）往往呈现“高频、低延迟、低 GPU 利用率”的特点。如...

  400 2026/6/14 KubernetesGPU虚拟化AI推理

• 深度解析：NVIDIA MIG 与 MPS 在算力切分上的底层隔离机制有何本质不同？

  在 GPU 算力虚拟化和多租户共享的场景中，NVIDIA 提供了两种主流的切分技术： MPS（Multi-Process Service，多进程服务） 和 MIG（Multi-Instance GPU，多实例 GPU） 。 虽然这...

  379 2026/6/14 NVIDIAGPU虚拟化MIGMPS

• 为什么在大规模 DDP 分布式训练中，开启 NVIDIA MPS 反而是个“灾难”？

  在日常的 GPU 算力优化工作中， NVIDIA MPS（Multi-Process Service，多进程服务） 经常被誉为提升 GPU 利用率的“银弹”。在单卡运行多个轻量级推理任务，或者小规模多进程数据处理时，MPS 通过允许多个...

  282 2026/6/14 GPUPyTorch分布式训练

• 多节点 Slurm 集群中，如何用 Ansible 优雅地批量维护与巡检 GPU MPS 状态？

  在大型 GPU 算力集群中，为了提升中小显存占用任务的吞吐量， NVIDIA MPS（Multi-Process Service，多进程服务） 是一个几乎必选的方案。配合 Slurm 的 gres/mps 机制，多任务可以物理共享单...

  377 2026/6/14 SlurmAnsibleNVIDIA MPS

• Slurm 调度下 MPI 作业的 NVIDIA MPS 动态启停与自动配置方案

  在利用 Slurm 调度器运行 MPI 多机多卡作业时，若多个 MPI 进程（Ranks）需要共享同一张 GPU 卡，默认情况下会因为 CUDA Context 切换开销巨大而导致显卡利用率低下。NVIDIA MPS（Multi-Proc...

  361 1 2026/6/14 SlurmNVIDIA MPSMPI高性能计算

• 为什么开启 NVIDIA MPS 后 MPI 进程会突发 CUDA_ERROR_OUT_OF_MEMORY？原理剖析与排查指南

  在利用 MPI（Message Passing Interface）进行多进程并行计算或分布式深度学习训练时，为了提高 GPU 利用率，我们常常会开启 NVIDIA MPS（Multi-Process Service）。MPS 的初衷是允...

  356 2026/6/13 CUDANVIDIA MPSMPI

• 多卡多NUMA服务器性能调优：MPI进程、GPU与MPS守护进程的最优绑定实践

  在多卡多NUMA（Non-Uniform Memory Access）架构的服务器上运行MPI（Message Passing Interface）大规模并行程序时，默认的调度策略往往会导致灾难性的性能抖动。 如果一个MPI进程运行在...

  355 2026/6/13 GPUMPINUMA

• 单GPU多MPI跑GROMACS：如何通过NVIDIA MPS优化性能并彻底避免显存溢出

  在利用高性能计算（HPC）集群运行分子动力学模拟时，GROMACS 凭借其对 GPU 的高效支持成为了行业标配。然而，在实际生产环境中，我们经常会遇到这样的尴尬场景： 当模拟的体系较小（如少于 10 万原子），或者 CPU 核心数较...

  394 2026/6/13 GROMACSNVIDIA MPSGPU优化

• 彻底解决 GROMACS 模拟中的 CUDA Out of Memory：从域分解与显存分配机制谈起

  在进行大体系分子动力学（MD）模拟或使用多卡/多路 CPU 强卡并行的生产环境中，GROMACS 报错 "Out of memory" 导致 CUDA 驱动崩溃是一个非常经典且让人头疼的问题。 这类显存溢出（O...

  351 2026/6/13 GROMACSCUDA错误域分解

• GROMACS 中「-update gpu」报错的深度排查与解决方案：从算法限制到硬件配置

  在分子动力学模拟中，GROMACS 的 -update gpu 参数（即在 GPU 上进行坐标/速度更新和约束求解）是压榨 GPU 性能、实现「极速模拟」的关键。通过将 Update 步骤留在 GPU 上，可以彻底避免每一帧在 CPU...

  361 2026/6/13 GROMACS分子动力学GPU加速

• 为什么你的RTX 4090跑GROMACS快不起来？盘点最影响GPU计算效率的MDP参数

  很多人在服务器上配置了昂贵的 A100 或是最新的 RTX 4090 显卡，但在运行 GROMACS 模拟时，却发现 GPU 占用率长期在 30% 到 50% 之间徘徊，跑出来的 ns/day 数据甚至不如低端显卡。 这种现象大概率不...

  462 2026/6/12 GROMACSGPU加速分子动力学

• 白嫖云端算力：如何用免费 Google Colab 运行 GPU 加速的 GROMACS 分子动力学模拟

  对于从事计算生物学或计算化学的研究生和科研人员来说，本地缺乏高性能 GPU 算力是一个长期存在的痛点。Google Colab 提供的免费 T4 GPU 是一个极佳的“白嫖”资源。 本文将手把手带你配置 Google Colab 环境...

  476 2026/6/12 GROMACS分子动力学模拟

• 单点突变后在无显卡云服务器运行GROMACS动力学平衡的实操指南

  在做完单点突变后（无论你是用 PyMOL、FoldX 还是 Rosetta 得到的突变体 PDB 文件），如果手头没有 GPU 显卡，利用廉价的纯 CPU 云服务器（如 8 核或 16 核的按量付费实例）跑完前期的 能量最小化（EM） 、...

  342 2026/6/12 GROMACS分子动力学云服务器

• 白嫖 Meta 算力：无显卡如何在 Colab 快速部署 ESMFold 并搞定单点突变分析

  做结构生物学和计算生物学的同学，或多或少都经历过被显卡支配的恐惧。想跑个 AlphaFold2，光是配环境和下载那几个 TB 的数据库就能让人崩溃，更别提本地那块瑟瑟发抖的 RTX 3060 显卡了。 其实，如果你只是想针对某个靶点蛋...

  392 2026/6/12 ESMFold单点突变

• 单卡跑通万级突变：本地轻量化 ESMFold 部署与高通量筛选实战

  在蛋白质工程和定向进化中，对成百上千个突变体进行结构预测是一项常见的任务。传统的 AlphaFold2 尽管精度极高，但由于需要进行耗时的 MSA（多序列比对）检索，在面对高通量突变体筛选时，算力成本和时间周期往往难以接受。 Meta...

  326 2026/6/12 ESMFold突变体筛选蛋白质结构预测

• AlphaFold 3 开源了却动不了？无 GPU 预算的生信避坑与替代工作流指南

  不少做结构生物学和药物研发的同学最近都在关注 AlphaFold 3 (AF3) 的开源进展。 好消息是，DeepMind 在 2024 年 11 月终于迫于学术界压力，正式开源了 AlphaFold 3 的源代码和模型权重（仅限...

  460 2026/6/12 AlphaFold3蛋白质结构预测生物信息学

• 白嫖 Colab：如何无显卡（纯CPU）免费预测超长单链蛋白质结构？

  在结构生物学界，预测超长单链蛋白（比如 >1000 个氨基酸）一直是个“吞金兽”级别的任务。 很多人习惯用 ColabFold (AlphaFold2)。但如果你试过在 Colab 的免费 T4 GPU 上跑 1200aa 以上...

  410 2026/6/11 生物信息学蛋白质结构预测

• 显存不够怎么跑 RoseTTAFold2？超大蛋白质复合物轻量化预测实战

  生命科学领域的研究者，大概都经历过被 CUDA out of memory （显存溢出）支配的恐惧。 随着结构生物学进入“大复合物时代”，预测 2000aa（氨基酸残基）以上的超大蛋白质复合物已成常态。然而，RoseTTAFold2...

  328 2026/6/11 显存优化蛋白质结构预测

• 科研平替：ColabFold 蛋白质复合物预测进阶微调指南

  在结构生物学领域，AlphaFold-Multimer 的出现极大地方便了蛋白质复合物的研究。然而，本地部署 AlphaFold-Multimer 对显存和硬盘（尤其是几 TB 的数据库）的要求让许多课题组望而却步。 作为高性价比的“...

  336 2026/6/10 ColabFoldAlphaFold结构生物学