Service
-
彻底抛弃 kube-proxy 后 Cilium 如何依靠 eBPF 驾驭 NodePort 与 ExternalIP 流量
在传统的 Kubernetes 集群中，服务发现和负载均衡主要依赖 kube-proxy 。它通过维护大规模的 iptables 规则或 IPVS 虚拟服务器来实现流量转发。然而，随着集群规模的扩大， iptables 的 $...
-
告别 iptables 泥潭：在大规模 K8s 集群中用 eBPF 彻底解放 Service 转发性能
在 Kubernetes 集群规模迈向数千节点、数万 Pod 的过程中，网络性能往往会最先撞墙。 许多平台工程师或 SRE 都会遇到类似的诡异现象：集群节点数变多后，新建连接的延迟偶尔出现抖动，CPU 莫名其妙地在内核态出现尖峰，甚至...
-
打破 K8s 传统网络瓶颈：基于 eBPF 的多租户容器隔离与 EDT 极速限速设计
在多租户 Kubernetes 集群中，网络隔离与带宽限制是保障租户安全与服务质量（QoS）的刚需。然而，传统的实现方案往往存在严重的性能瓶颈： 网络隔离 ：传统方案依赖 iptables 或 IPVS 。当集群 Serv...
-
用 eBPF TC 打造高吞吐低延迟的无特权 Kubernetes 容器网络架构设计与实现
在传统的 Kubernetes 网络架构中，容器间通信通常依赖于 veth pair、Linux Bridge 以及 iptables/IPVS 等技术。当数据包从一个 Pod 发往另一个 Pod 时，它需要跨越多次网络栈，经历繁琐的路由...
-
彻底解决 SPDK 启用 AF_XDP 时的 memlock 报错：从原理到生产级配置
在 Linux 5.15+ 内核环境下，使用 SPDK（Storage Performance Development Kit）搭配 AF_XDP 驱动（特别是配合 bdev_aio 或自定义网络前端）时，很多开发者在初始化 UMEM...
-
Linux C++ 高性能服务器如何用 HugePages 优化共享内存
在低延迟、高吞吐的 C++ 高性能计算服务（如交易系统、低延迟缓存、实时推流服务）中，进程间通过共享内存（Shared Memory）传递数据是极其常见的方案。 但是，当共享内存的规模达到数 GB 甚至数十 GB 时，默认的 4KB ...
-
Triton 报 Shared Memory 内存不足？免重启在线清理与重建指南
在生产环境中部署 Triton Inference Server 时，为了追求极致的吞吐和极低的延迟，我们通常会开启**共享内存（Shared Memory，包括 System SHM 和 CUDA SHM）**来传输 Inference...
-
K8s 混合调度 MIG 与 MPS 的终极实践：把 GPU 榨出最后一滴油水
在 AI 推理服务的生产环境中，最让基础设施团队头疼的，莫过于 “显存闲置” 与 “算力浪费” 。 普通的 AI 推理任务（尤其是中小模型、NLP 分类、OCR、语音识别等）往往呈现“高频、低延迟、低 GPU 利用率”的特点。如...
-
深度解析：NVIDIA MIG 与 MPS 在算力切分上的底层隔离机制有何本质不同？
在 GPU 算力虚拟化和多租户共享的场景中，NVIDIA 提供了两种主流的切分技术： MPS（Multi-Process Service，多进程服务） 和 MIG（Multi-Instance GPU，多实例 GPU） 。 虽然这...
-
为什么在大规模 DDP 分布式训练中，开启 NVIDIA MPS 反而是个“灾难”？
在日常的 GPU 算力优化工作中， NVIDIA MPS（Multi-Process Service，多进程服务） 经常被誉为提升 GPU 利用率的“银弹”。在单卡运行多个轻量级推理任务，或者小规模多进程数据处理时，MPS 通过允许多个...
-
多节点 Slurm 集群中，如何用 Ansible 优雅地批量维护与巡检 GPU MPS 状态？
在大型 GPU 算力集群中，为了提升中小显存占用任务的吞吐量， NVIDIA MPS（Multi-Process Service，多进程服务） 是一个几乎必选的方案。配合 Slurm 的 gres/mps 机制，多任务可以物理共享单...
-
为什么开启 NVIDIA MPS 后 MPI 进程会突发 CUDA_ERROR_OUT_OF_MEMORY？原理剖析与排查指南
在利用 MPI（Message Passing Interface）进行多进程并行计算或分布式深度学习训练时，为了提高 GPU 利用率，我们常常会开启 NVIDIA MPS（Multi-Process Service）。MPS 的初衷是允...
-
多卡多NUMA服务器性能调优：MPI进程、GPU与MPS守护进程的最优绑定实践
在多卡多NUMA（Non-Uniform Memory Access）架构的服务器上运行MPI（Message Passing Interface）大规模并行程序时，默认的调度策略往往会导致灾难性的性能抖动。 如果一个MPI进程运行在...
-
单GPU多MPI跑GROMACS：如何通过NVIDIA MPS优化性能并彻底避免显存溢出
在利用高性能计算（HPC）集群运行分子动力学模拟时，GROMACS 凭借其对 GPU 的高效支持成为了行业标配。然而，在实际生产环境中，我们经常会遇到这样的尴尬场景： 当模拟的体系较小（如少于 10 万原子），或者 CPU 核心数较...
-
那些贷款买 Titan Krios 的地方高校和中小 CRO，如今正面临怎样的隐秘危机？
在生物医药和结构生物学界，赛默飞的 Titan Krios （300kV 冷冻透射电镜）一直被誉为“科研重器”与“吞金巨兽”。前几年，乘着结构生物学解析风口、地方政府产业规划红利，以及 2022 年底那一波“设备更新改造专项再贷款”的东...
-
AlphaFold 3 本地开源，会砸了冷冻电镜（Cryo-EM）服务商的饭碗吗？
AlphaFold 3（AF3）学术版的本地部署和开源，在结构生物学界和药物研发领域激起了不小的水花。对于那些手握数台 Titan Krios（冷冻透射电镜）、靠提供“制样-数据采集-结构解析”一条龙服务的传统 Cryo-EM 实验服务商...
-
如何实现“断网不断联”？深度解析 Thread 1.3 边界路由器自动切换机制
在智能家居领域，Thread 协议之所以被视为 Matter 的核心基石，除了其低功耗和自组网特性外，最令开发者称赞的就是其 强大的网络冗余与自我修复能力 。 在 Thread 1.3 版本中，协议进一步强化了边界路由器（Border...
-
如何判断自家的智能音箱是否已支持 Thread 1.3 协议？
在智能家居领域，如果你最近在研究 Matter 协议 ，那么 Thread 1.3.0 一定是一个绕不开的核心名词。 简单来说，Thread 1.3 是该协议的一次里程碑式更新。它最大的意义在于实现了**“边界路由器（Borde...
-
微前端性能优化：资源加载、缓存和用户体验一致性的实战策略
微前端架构虽然为大型应用带来了模块化和独立部署的便利，但随之而来的性能挑战也让不少团队头疼，尤其是资源多次加载、首屏渲染慢以及用户体验不一致等问题。作为在微前端领域摸爬滚打多年的老兵，今天就来和大家聊聊我的实战经验，如何把这些“拦路虎”一...
-
CI/CD工具对比：观测性、指标扩展性及定制数据平台核心选择
在构建现代软件交付流程中，CI/CD工具链的重要性不言而喻。但当面临“观测性”和“指标扩展性”的深层次需求，尤其是在需要为高度定制化的数据平台选择核心引擎时，不同工具的差异就变得尤为关键。我们来深入分析Jenkins、GitLab CI和...
