docker
-
高并发下 nf_conntrack: table full 报错？教你精准计算内核参数，拒绝内存崩溃
在高并发网络压力测试或遭遇 DDoS 攻击时，Linux 服务器的 dmesg 或者是 /var/log/messages 经常会爆出这样一条红字警告： nf_conntrack: table full, dropping ...
-
直通网卡和核显后，OpenWrt热重启导致整机断电死锁的底层原因与终极解决办法
在玩软路由或 “All-in-One” 架构的 Homelab 圈子里，这是一个非常经典但又极度让人抓狂的「硬件级死锁」现象。 表现为：虚拟机（通常是 PVE 或 ESXi）正常运行，一旦你点击 OpenWrt 的「重启」或在后台执行...
-
PVE直通核显给OpenWrt或iKuai导致黑屏死机？一文教你彻底排查与避坑
在折腾 PVE（Proxmox VE）做 AIO（All-in-One）主机的过程中，很多玩家在尝试将 Intel CPU 的核显直通给 iKuai 或 OpenWrt 等虚拟机以实现所谓的“硬件加速”时，经常会遇到 PVE 宿主机直接死...
-
N100 物理黑群晖吃满 ASPM 与 C10 深层省电的硬核调优指南
很多人选择 Intel N100 制作 NAS，看中的就是它宣称的超低待机功耗。然而在实际物理安装黑群晖（DSM 7.x）后，不少人发现整机空载功耗高达 15W - 20W，CPU 的 Package C-State 只能卡在 C2 或 ...
-
低功耗家用NAS纠结：物理黑群晖还是PVE虚拟化？聊透硬盘休眠和功耗控制的真实差异
在组建家用低功耗 NAS 时，“物理直刷黑群晖（裸机部署）”和“PVE 虚拟化后装群晖（万物皆可虚拟化）”是两条最主流的路线。 很多玩家在规划配置时，往往只看重 PVE 的多功能和灵活性，却忽略了 硬盘休眠 和 整机功耗控制 这两个 ...
-
N100核显SR-IOV虚拟化：PVE 8.x下Jellyfin与Plex开启QSV硬解保姆级教程
在 PVE 8.x 下，Intel N100 凭借其极低的功耗和出色的 QSV 解码能力，成为了家用 NAS/All-in-One 路由器的明星 CPU。传统的核显直通（Passthrough）只能将核显分给单一虚拟机，而通过 SR-I...
-
N100 独显级折腾：Jellyfin 在 SR-IOV 虚拟显卡下 H.265 10bit 转码 HDR 偏色的终极解决方案
在使用 Intel N100 处理器（Alder Lake-N）搭建 Home Lab 时，通过 SR-IOV 技术将核显虚拟化出多个 VF（Virtual Function）分给 Jellyfin、iStoreOS 或 PVE 虚拟...
-
N100 部署 PVE 8.1：用 SR-IOV 虚拟显卡完美搞定黑群晖 Photos 人脸识别与 Plex 硬解转码
在单台轻量级服务器（如搭载 Intel N100 处理器的小主机）上，既想让 PVE 主机保留控制台输出，又想让黑群晖（DSM）实现独占般的显卡硬件加速（用于 Plex/Jellyfin 转码和 Synology Photos 人脸识别）...
-
PVE 8.0 NVIDIA 独显直通与 vGPU 全攻略：从底层硬件到完美解决 Code 43 与授权痛点
在 Proxmox VE (PVE) 8.0 环境下，将 NVIDIA 显卡直通给 KVM 虚拟机（Windows/Linux）或实现 vGPU 分流，是搭建高性能家用服务器、云游戏主机或 AI 绘图环境的常见需求。PVE 8.0 采用了...
104 Proxmox VE显卡直通 -
PVE 玩转 Intel 核显 GVT-g 虚拟化：保姆级配置步骤与那些折腾出的血泪坑
在 Homelab 的世界里，如何榨干一台小主机的核显性能是一门必修课。 如果你的需求是： 既要 Windows 虚拟机有图形加速（不卡顿、能跑轻量 3D），又要 Linux 虚拟机（如 Jellyfin/Plex）能同时进行硬件解码...
-
彻底解决 SPDK 启用 AF_XDP 时的 memlock 报错：从原理到生产级配置
在 Linux 5.15+ 内核环境下，使用 SPDK（Storage Performance Development Kit）搭配 AF_XDP 驱动（特别是配合 bdev_aio 或自定义网络前端）时，很多开发者在初始化 UMEM...
-
Docker 容器 OOM 时，共享内存与 Robust Mutex 会发生什么？底层内核机制与 Namespace 影响深度剖析
在 Linux 容器（Docker）环境中，当容器内发生 OOM（Out of Memory）并触发内核 OOM Killer 强杀进程时，多进程协同系统的开发者往往会面临一系列棘手的状态一致性问题。尤其是当系统依赖共享内存（Shared...
-
Triton 报 Shared Memory 内存不足？免重启在线清理与重建指南
在生产环境中部署 Triton Inference Server 时，为了追求极致的吞吐和极低的延迟，我们通常会开启**共享内存（Shared Memory，包括 System SHM 和 CUDA SHM）**来传输 Inference...
-
Triton 架构下 Python 与 PyTorch Backend 的并发显存开销差异及泄露精准定位实践
在生产环境中部署深度学习模型时，NVIDIA Triton Inference Server 是最常用的高性能推理引擎之一。然而，许多开发者在从 PyTorch (LibTorch) Backend 迁移到 Python Backend，...
-
突破 IPC 瓶颈：如何在 Triton Python Backend 中优雅地使用 CUDA Shared Memory？
在高性能深度学习推理场景中， Triton Inference Server 凭其优秀的并发处理能力被广泛采用。然而，许多团队在使用 Python Backend 编写自定义预处理或模型后处理逻辑时，常常会遇到性能瓶颈。 这个瓶...
-
高并发下的多卡 Triton 推理优化：如何利用 CUDA IPC 与 NCCL 实现跨卡零拷贝级联？
在多卡（Multi-GPU）环境下部署复杂的大模型流水线或级联模型（Ensemble/Pipeline）时，GPU 之间的数据传输延迟往往会成为整个吞吐链路的致命瓶颈。 典型的级联场景（例如： Visual Grounding 任务中...
-
拒绝万恶的H2D拷贝：在Triton中用CUDA共享内存实现大图推理极速优化
在智能视觉、工业缺陷检测、超分辨率等场景中，我们经常需要处理 4K 甚至 8K 的超大尺寸图像。在传统的推理流程中，即使你把 GPU 上的模型优化到了极致，端到端的时延依然可能高达几十甚至上百毫秒。 用 Profiler 仔细分析就会...
-
单卡 RTX 4090 本地部署 AlphaFold 3 实操与显存优化指南
Google DeepMind 正式开源 AlphaFold 3 (AF3) 的源代码和模型权重后，生命科学与 AI 交叉领域的开发者迎来了一波本地部署热潮。 虽然官方推荐使用 A100/H100 等企业级显卡，但对于预算有限的个人开...
-
如何本地免商业授权费部署 AlphaFold 3？（附抗体-抗原复合物预测实操指南）
Google DeepMind 在 2024 年 11 月正式开源了 AlphaFold 3 (AF3) 的源代码及模型权重（针对学术与非商业用途）。这意味着研究人员终于可以摆脱 Web 服务器每天的提交限制，在本地环境中运行这一顶尖...
-
显存不够也能玩转AI制药：本地低配环境搭建 RFdiffusion + ProteinMPNN 工作流指南
作为蛋白质 de novo 设计领域的“黄金搭档”，RFdiffusion（负责骨架生成）和 ProteinMPNN（负责序列设计）几乎是目前计算生物学研究的标配。然而，官方文档中动辄要求 A100 或 24G 显存显卡的配置，让许多只有...
292 蛋白质设计
