AI
-
Triton共享内存在C++与Python客户端下的性能差异与调优实践
在利用 Triton Inference Server 部署高吞吐、低延迟的深度学习模型时,传统的 gRPC 或 HTTP 协议往往会因为 数据序列化/反序列化 以及 网络栈拷贝 成为系统瓶颈。特别是在处理超大图像、视频流或高维张量时,这...
-
榨干 GPU 性能:Triton 动态批处理与队列超时的黄金调优法则
在 AI 异步推理和高并发在线服务(Model Serving)的场景中,NVIDIA Triton Inference Server 几乎是行业标配。然而,很多工程师在部署模型时,经常遇到一个两难困境: 追求吞吐量(Throu...
-
K8s 混合调度 MIG 与 MPS 的终极实践:把 GPU 榨出最后一滴油水
在 AI 推理服务的生产环境中,最让基础设施团队头疼的,莫过于 “显存闲置” 与 “算力浪费” 。 普通的 AI 推理任务(尤其是中小模型、NLP 分类、OCR、语音识别等)往往呈现“高频、低延迟、低 GPU 利用率”的特点。如...
-
深度解析:NVIDIA MIG 与 MPS 在算力切分上的底层隔离机制有何本质不同?
在 GPU 算力虚拟化和多租户共享的场景中,NVIDIA 提供了两种主流的切分技术: MPS(Multi-Process Service,多进程服务) 和 MIG(Multi-Instance GPU,多实例 GPU) 。 虽然这...
-
为什么在大规模 DDP 分布式训练中,开启 NVIDIA MPS 反而是个“灾难”?
在日常的 GPU 算力优化工作中, NVIDIA MPS(Multi-Process Service,多进程服务) 经常被誉为提升 GPU 利用率的“银弹”。在单卡运行多个轻量级推理任务,或者小规模多进程数据处理时,MPS 通过允许多个...
-
单卡 RTX 4090 本地部署 AlphaFold 3 实操与显存优化指南
Google DeepMind 正式开源 AlphaFold 3 (AF3) 的源代码和模型权重后,生命科学与 AI 交叉领域的开发者迎来了一波本地部署热潮。 虽然官方推荐使用 A100/H100 等企业级显卡,但对于预算有限的个人开...
-
如何用 ESM-2 进行抗体-抗原结合亲和力预测?从零样本表征到微调实操
在 AI 辅助抗体药物研发(AIDD)中,评估抗体与抗原之间的结合亲和力(Affinity)是核心环节。Meta 团队开源的 ESM-2 作为目前最强大的蛋白质语言模型之一,凭借其在海量无标注蛋白质序列上学习到的进化和物理化学规律,成...
-
抗体非特异性结合(NSB)筛查:如何选择与应用开源抗体蛋白质语言模型(pLM)
在治疗性抗体开发中,非特异性结合(Non-Specific Binding, NSB)或多反应性(Polyreactivity)是导致候选药物在体内药代动力学(PK)性质差、清除率快以及毒性升高的主要原因之一。 利用蛋白质语言模型(p...
-
除了FoldX,如何用深度学习方法快速评估ProteinMPNN突变体的结合力?
在蛋白质从头设计(De Novo Protein Design)或亲和力成熟(Affinity Maturation)的工作流中, ProteinMPNN 已经成为序列设计的标配工具。然而,ProteinMPNN 产生的候选序列往往成百...
-
RFdiffusion设计的蛋白质怎么看质量?小白保姆级PDB评估指标拆解
在 AI 蛋白质设计领域, RFdiffusion 毫无疑问是目前的明星工具。但很多刚入行或者跨界过来的同学,在跑完 RFdiffusion 拿到一堆 .pdb 格式的结构文件后,往往会一脸懵逼: “这个结构到底折叠得好不好?...
-
显存不够也能玩转AI制药:本地低配环境搭建 RFdiffusion + ProteinMPNN 工作流指南
作为蛋白质 de novo 设计领域的“黄金搭档”,RFdiffusion(负责骨架生成)和 ProteinMPNN(负责序列设计)几乎是目前计算生物学研究的标配。然而,官方文档中动辄要求 A100 或 24G 显存显卡的配置,让许多只有...
96 蛋白质设计 -
除了AlphaFold 3,现代AI药物设计管线里还有哪些不可或缺的底层模型?
在AI制药(AIDD)领域,AlphaFold 3毫无疑问是聚光灯下最耀眼的明星。它解决了“结构预测”这一历史性难题。然而,药物研发是一个漫长且复杂的系统工程,从靶点发现、先导化合物筛选、结构优化到ADMET(吸收、分布、代谢、排泄和毒性...
-
AlphaFold 3 都能预测配体结合了,为什么 AI 制药公司还要砸钱做湿实验?
在生物医药和 AI 交叉领域,AlphaFold 3(AF3)的发布无疑是一场地震。它不仅能预测蛋白质结构,还能预测蛋白质与小分子配体、DNA、RNA 的复合物结构。 这时候,很多行外人(甚至不少投资人)都会产生一个极其自然的疑问: ...
-
那些曾经靠「解结构」坐拥 CNS 的实验室,在 AlphaFold 3 时代都转型去哪了?
AlphaFold 3(AF3)的开源,尤其是它对蛋白质-核酸、蛋白质-小分子配体、修饰性化学基团复合物预测能力的跃升,确实给传统结构生物学界带来了一场海啸。 在几年前,冷冻电镜(Cryo-EM)刚普及的“黄金时代”,一个课题组只要能...
-
那些贷款买 Titan Krios 的地方高校和中小 CRO,如今正面临怎样的隐秘危机?
在生物医药和结构生物学界,赛默飞的 Titan Krios (300kV 冷冻透射电镜)一直被誉为“科研重器”与“吞金巨兽”。前几年,乘着结构生物学解析风口、地方政府产业规划红利,以及 2022 年底那一波“设备更新改造专项再贷款”的东...
-
AlphaFold 3 本地开源,会砸了冷冻电镜(Cryo-EM)服务商的饭碗吗?
AlphaFold 3(AF3)学术版的本地部署和开源,在结构生物学界和药物研发领域激起了不小的水花。对于那些手握数台 Titan Krios(冷冻透射电镜)、靠提供“制样-数据采集-结构解析”一条龙服务的传统 Cryo-EM 实验服务商...
-
AlphaFold 3 迟到的开源:学术界的全面狂欢,与工业界尴尬的“围城”
从今年 5 月在《Nature》发表论文时仅提供限制重重的 Web 服务器,到 11 月正式释放完整源代码和模型权重,DeepMind 的这一百八十度大转弯,无疑是今年 AI for Science 领域最重磅的戏剧性事件。 对于这个...
100 DeepMind -
AlphaFold 3 开源学术权重后,AI 制药创业公司靠什么活下去
Google DeepMind 终究还是向学术界低了头。 AlphaFold 3(以下简称 AF3)的源代码和学术权重正式开源。这一举动,把大半年前因“仅提供 Web 服务器、限制每日调用、不给权重”而引发的学术界怒火彻底平息,但也顺...
-
如何评价开源模型 Boltz-1 和 Chai-1?它们能否在药物研发中真正替代 AlphaFold 3?
在 AI 结构生物学领域,AlphaFold 3(AF3)的发布无疑是一座里程碑,它将预测范围从单纯的蛋白质拓展到了核酸、小分子配体和修饰。然而,对于制药工业界和广大科研人员来说,AF3 最初“犹抱琵琶半遮面”的闭源状态(早期仅提供有诸多...
-
从“只给网页”到“开源代码”:AlphaFold 3 的妥协、社区自救与AI制药的权力重构
2024 年 5 月,DeepMind 在《Nature》上发表了 AlphaFold 3(AF3),宣称其不仅能预测蛋白质,还能预测 DNA、RNA 以及化学小分子配体的复合物结构。然而,伴随这项里程碑式成果而来的,不是欢呼,而是一场结...