显卡
-
高并发下的多卡 Triton 推理优化:如何利用 CUDA IPC 与 NCCL 实现跨卡零拷贝级联?
在多卡(Multi-GPU)环境下部署复杂的大模型流水线或级联模型(Ensemble/Pipeline)时,GPU 之间的数据传输延迟往往会成为整个吞吐链路的致命瓶颈。 典型的级联场景(例如: Visual Grounding 任务中...
-
突破通信瓶颈:vLLM 混合并行与 K8s 拓扑感知调度深度实践
在大规模 LLM(如 Llama-3-70B、Mixtral-8x22B 等)推理场景下,基于 vLLM 的分布式推理服务面临着极其严苛的时延挑战。 Tensor Parallelism(张量并行,简称 TP)由于在每个 Transf...
-
深度解析:NVIDIA MIG 与 MPS 在算力切分上的底层隔离机制有何本质不同?
在 GPU 算力虚拟化和多租户共享的场景中,NVIDIA 提供了两种主流的切分技术: MPS(Multi-Process Service,多进程服务) 和 MIG(Multi-Instance GPU,多实例 GPU) 。 虽然这...
-
多节点 Slurm 集群中,如何用 Ansible 优雅地批量维护与巡检 GPU MPS 状态?
在大型 GPU 算力集群中,为了提升中小显存占用任务的吞吐量, NVIDIA MPS(Multi-Process Service,多进程服务) 是一个几乎必选的方案。配合 Slurm 的 gres/mps 机制,多任务可以物理共享单...
-
Slurm 调度下 MPI 作业的 NVIDIA MPS 动态启停与自动配置方案
在利用 Slurm 调度器运行 MPI 多机多卡作业时,若多个 MPI 进程(Ranks)需要共享同一张 GPU 卡,默认情况下会因为 CUDA Context 切换开销巨大而导致显卡利用率低下。NVIDIA MPS(Multi-Proc...
-
单GPU多MPI跑GROMACS:如何通过NVIDIA MPS优化性能并彻底避免显存溢出
在利用高性能计算(HPC)集群运行分子动力学模拟时,GROMACS 凭借其对 GPU 的高效支持成为了行业标配。然而,在实际生产环境中,我们经常会遇到这样的尴尬场景: 当模拟的体系较小(如少于 10 万原子),或者 CPU 核心数较...
-
彻底解决 GROMACS 模拟中的 CUDA Out of Memory:从域分解与显存分配机制谈起
在进行大体系分子动力学(MD)模拟或使用多卡/多路 CPU 强卡并行的生产环境中,GROMACS 报错 "Out of memory" 导致 CUDA 驱动崩溃是一个非常经典且让人头疼的问题。 这类显存溢出(O...
-
GROMACS 中「-update gpu」报错的深度排查与解决方案:从算法限制到硬件配置
在分子动力学模拟中,GROMACS 的 -update gpu 参数(即在 GPU 上进行坐标/速度更新和约束求解)是压榨 GPU 性能、实现「极速模拟」的关键。通过将 Update 步骤留在 GPU 上,可以彻底避免每一帧在 CPU...
-
为什么你的RTX 4090跑GROMACS快不起来?盘点最影响GPU计算效率的MDP参数
很多人在服务器上配置了昂贵的 A100 或是最新的 RTX 4090 显卡,但在运行 GROMACS 模拟时,却发现 GPU 占用率长期在 30% 到 50% 之间徘徊,跑出来的 ns/day 数据甚至不如低端显卡。 这种现象大概率不...
-
白嫖云端算力:如何用免费 Google Colab 运行 GPU 加速的 GROMACS 分子动力学模拟
对于从事计算生物学或计算化学的研究生和科研人员来说,本地缺乏高性能 GPU 算力是一个长期存在的痛点。Google Colab 提供的免费 T4 GPU 是一个极佳的“白嫖”资源。 本文将手把手带你配置 Google Colab 环境...
-
单点突变后在无显卡云服务器运行GROMACS动力学平衡的实操指南
在做完单点突变后(无论你是用 PyMOL、FoldX 还是 Rosetta 得到的突变体 PDB 文件),如果手头没有 GPU 显卡,利用廉价的纯 CPU 云服务器(如 8 核或 16 核的按量付费实例)跑完前期的 能量最小化(EM) 、...
-
白嫖 Meta 算力:无显卡如何在 Colab 快速部署 ESMFold 并搞定单点突变分析
做结构生物学和计算生物学的同学,或多或少都经历过被显卡支配的恐惧。想跑个 AlphaFold2,光是配环境和下载那几个 TB 的数据库就能让人崩溃,更别提本地那块瑟瑟发抖的 RTX 3060 显卡了。 其实,如果你只是想针对某个靶点蛋...
-
单卡跑通万级突变:本地轻量化 ESMFold 部署与高通量筛选实战
在蛋白质工程和定向进化中,对成百上千个突变体进行结构预测是一项常见的任务。传统的 AlphaFold2 尽管精度极高,但由于需要进行耗时的 MSA(多序列比对)检索,在面对高通量突变体筛选时,算力成本和时间周期往往难以接受。 Meta...
-
AlphaFold 3 开源了却动不了?无 GPU 预算的生信避坑与替代工作流指南
不少做结构生物学和药物研发的同学最近都在关注 AlphaFold 3 (AF3) 的开源进展。 好消息是,DeepMind 在 2024 年 11 月终于迫于学术界压力,正式开源了 AlphaFold 3 的源代码和模型权重(仅限...
-
白嫖 Colab:如何无显卡(纯CPU)免费预测超长单链蛋白质结构?
在结构生物学界,预测超长单链蛋白(比如 >1000 个氨基酸)一直是个“吞金兽”级别的任务。 很多人习惯用 ColabFold (AlphaFold2)。但如果你试过在 Colab 的免费 T4 GPU 上跑 1200aa 以上...
-
显存不够怎么跑 RoseTTAFold2?超大蛋白质复合物轻量化预测实战
生命科学领域的研究者,大概都经历过被 CUDA out of memory (显存溢出)支配的恐惧。 随着结构生物学进入“大复合物时代”,预测 2000aa(氨基酸残基)以上的超大蛋白质复合物已成常态。然而,RoseTTAFold2...
-
单卡 RTX 4090 本地部署 AlphaFold 3 实操与显存优化指南
Google DeepMind 正式开源 AlphaFold 3 (AF3) 的源代码和模型权重后,生命科学与 AI 交叉领域的开发者迎来了一波本地部署热潮。 虽然官方推荐使用 A100/H100 等企业级显卡,但对于预算有限的个人开...
-
不用A100也能跑!如何利用免费 Google Colab 运行 AlphaFold 3 社区修改版?
随着 Google DeepMind 正式开源 AlphaFold 3 (AF3) 的代码和模型权重,结构生物学界迎来了一波狂欢。但狂欢之余,残酷的硬件现实摆在面前:官方版的 AF3 运行需要下载近 2TB 的基因数据库,且本地运行极度依...
708 蛋白质结构预测 -
如何本地免商业授权费部署 AlphaFold 3?(附抗体-抗原复合物预测实操指南)
Google DeepMind 在 2024 年 11 月正式开源了 AlphaFold 3 (AF3) 的源代码及模型权重(针对学术与非商业用途)。这意味着研究人员终于可以摆脱 Web 服务器每天的提交限制,在本地环境中运行这一顶尖...
-
如何用 ESM-2 进行抗体-抗原结合亲和力预测?从零样本表征到微调实操
在 AI 辅助抗体药物研发(AIDD)中,评估抗体与抗原之间的结合亲和力(Affinity)是核心环节。Meta 团队开源的 ESM-2 作为目前最强大的蛋白质语言模型之一,凭借其在海量无标注蛋白质序列上学习到的进化和物理化学规律,成...