训练
-
无需重启宿主机:基于 VFIO-PCI 实现 GPU 动态热插拔与直通全解析
在传统 KVM/QEMU 虚拟化方案中,GPU 直通(Passthrough)通常需要在宿主机引导时(via Grub)就将显卡通过 vfio-pci.ids 锁定。这种“静态直通”虽然稳定,但极大地限制了硬件资产的利用率——当虚拟机...
-
用户态 VFIO 驱动如何实现不依赖内核驱动切换的 PCI 设备热插拔?
在高性能网络和存储领域(如 DPDK、SPDK),为了追求极致的吞吐量和低延迟,通常会将 PCI 设备完全交由用户态驱动(VFIO)接管。 但在实际生产环境中,服务器运行期间动态增加网卡、更换故障硬盘(NVMe)是常态。传统的内核驱动...
-
SPDK NVMe-oF 性能实测:RDMA 与 AF_XDP TCP 延迟与 CPU 损耗的深度量化剖析
在超大规模数据中心和高性能存储架构中,如何压榨网络协议栈的每一分性能是永恒的主题。SPDK(Storage Performance Development Kit)作为用户态存储领域的标杆,其 NVMe-oF(NVMe over Fabr...
-
K8s 混合调度 MIG 与 MPS 的终极实践:把 GPU 榨出最后一滴油水
在 AI 推理服务的生产环境中,最让基础设施团队头疼的,莫过于 “显存闲置” 与 “算力浪费” 。 普通的 AI 推理任务(尤其是中小模型、NLP 分类、OCR、语音识别等)往往呈现“高频、低延迟、低 GPU 利用率”的特点。如...
-
深度解析:NVIDIA MIG 与 MPS 在算力切分上的底层隔离机制有何本质不同?
在 GPU 算力虚拟化和多租户共享的场景中,NVIDIA 提供了两种主流的切分技术: MPS(Multi-Process Service,多进程服务) 和 MIG(Multi-Instance GPU,多实例 GPU) 。 虽然这...
-
为什么在大规模 DDP 分布式训练中,开启 NVIDIA MPS 反而是个“灾难”?
在日常的 GPU 算力优化工作中, NVIDIA MPS(Multi-Process Service,多进程服务) 经常被誉为提升 GPU 利用率的“银弹”。在单卡运行多个轻量级推理任务,或者小规模多进程数据处理时,MPS 通过允许多个...
-
多节点 Slurm 集群中,如何用 Ansible 优雅地批量维护与巡检 GPU MPS 状态?
在大型 GPU 算力集群中,为了提升中小显存占用任务的吞吐量, NVIDIA MPS(Multi-Process Service,多进程服务) 是一个几乎必选的方案。配合 Slurm 的 gres/mps 机制,多任务可以物理共享单...
-
为什么开启 NVIDIA MPS 后 MPI 进程会突发 CUDA_ERROR_OUT_OF_MEMORY?原理剖析与排查指南
在利用 MPI(Message Passing Interface)进行多进程并行计算或分布式深度学习训练时,为了提高 GPU 利用率,我们常常会开启 NVIDIA MPS(Multi-Process Service)。MPS 的初衷是允...
-
单卡跑通万级突变:本地轻量化 ESMFold 部署与高通量筛选实战
在蛋白质工程和定向进化中,对成百上千个突变体进行结构预测是一项常见的任务。传统的 AlphaFold2 尽管精度极高,但由于需要进行耗时的 MSA(多序列比对)检索,在面对高通量突变体筛选时,算力成本和时间周期往往难以接受。 Meta...
-
如何本地免商业授权费部署 AlphaFold 3?(附抗体-抗原复合物预测实操指南)
Google DeepMind 在 2024 年 11 月正式开源了 AlphaFold 3 (AF3) 的源代码及模型权重(针对学术与非商业用途)。这意味着研究人员终于可以摆脱 Web 服务器每天的提交限制,在本地环境中运行这一顶尖...
-
无复合物结构?仅凭 ESM-Fold 预测的抗原单体如何进行反向疫苗设计
在结构免疫学和疫苗研发中,最理想的情况是拥有 抗原-中和抗体复合物 的共晶或冷冻电镜结构,这能直接指出关键的保护性表位(Protective Epitope)。 但在面对新兴病原体或难结晶的膜蛋白时,我们往往只有基因序列。利用 ESM...
-
如何用 ESM-2 进行抗体-抗原结合亲和力预测?从零样本表征到微调实操
在 AI 辅助抗体药物研发(AIDD)中,评估抗体与抗原之间的结合亲和力(Affinity)是核心环节。Meta 团队开源的 ESM-2 作为目前最强大的蛋白质语言模型之一,凭借其在海量无标注蛋白质序列上学习到的进化和物理化学规律,成...
-
抗体非特异性结合(NSB)筛查:如何选择与应用开源抗体蛋白质语言模型(pLM)
在治疗性抗体开发中,非特异性结合(Non-Specific Binding, NSB)或多反应性(Polyreactivity)是导致候选药物在体内药代动力学(PK)性质差、清除率快以及毒性升高的主要原因之一。 利用蛋白质语言模型(p...
-
除了FoldX,如何用深度学习方法快速评估ProteinMPNN突变体的结合力?
在蛋白质从头设计(De Novo Protein Design)或亲和力成熟(Affinity Maturation)的工作流中, ProteinMPNN 已经成为序列设计的标配工具。然而,ProteinMPNN 产生的候选序列往往成百...
-
除了AlphaFold 3,现代AI药物设计管线里还有哪些不可或缺的底层模型?
在AI制药(AIDD)领域,AlphaFold 3毫无疑问是聚光灯下最耀眼的明星。它解决了“结构预测”这一历史性难题。然而,药物研发是一个漫长且复杂的系统工程,从靶点发现、先导化合物筛选、结构优化到ADMET(吸收、分布、代谢、排泄和毒性...
-
AlphaFold 3 都能预测配体结合了,为什么 AI 制药公司还要砸钱做湿实验?
在生物医药和 AI 交叉领域,AlphaFold 3(AF3)的发布无疑是一场地震。它不仅能预测蛋白质结构,还能预测蛋白质与小分子配体、DNA、RNA 的复合物结构。 这时候,很多行外人(甚至不少投资人)都会产生一个极其自然的疑问: ...
-
AlphaFold 3 迟到的开源:学术界的全面狂欢,与工业界尴尬的“围城”
从今年 5 月在《Nature》发表论文时仅提供限制重重的 Web 服务器,到 11 月正式释放完整源代码和模型权重,DeepMind 的这一百八十度大转弯,无疑是今年 AI for Science 领域最重磅的戏剧性事件。 对于这个...
292 DeepMind -
AlphaFold 3 开源学术权重后,AI 制药创业公司靠什么活下去
Google DeepMind 终究还是向学术界低了头。 AlphaFold 3(以下简称 AF3)的源代码和学术权重正式开源。这一举动,把大半年前因“仅提供 Web 服务器、限制每日调用、不给权重”而引发的学术界怒火彻底平息,但也顺...
-
如何评价开源模型 Boltz-1 和 Chai-1?它们能否在药物研发中真正替代 AlphaFold 3?
在 AI 结构生物学领域,AlphaFold 3(AF3)的发布无疑是一座里程碑,它将预测范围从单纯的蛋白质拓展到了核酸、小分子配体和修饰。然而,对于制药工业界和广大科研人员来说,AF3 最初“犹抱琵琶半遮面”的闭源状态(早期仅提供有诸多...
-
从“只给网页”到“开源代码”:AlphaFold 3 的妥协、社区自救与AI制药的权力重构
2024 年 5 月,DeepMind 在《Nature》上发表了 AlphaFold 3(AF3),宣称其不仅能预测蛋白质,还能预测 DNA、RNA 以及化学小分子配体的复合物结构。然而,伴随这项里程碑式成果而来的,不是欢呼,而是一场结...