记录
-
Cilium eBPF 碰上 Istio Envoy:NodePort 流量的劫持与交接艺术
在当今的 Kubernetes 生产实践中, Cilium(eBPF CNI) 与 Istio(Envoy Service Mesh) 的强强联合已成为高性能云原生架构的标配。然而,这种双重数据面架构也引入了极高的复杂度。 当一...
-
彻底抛弃 kube-proxy 后 Cilium 如何依靠 eBPF 驾驭 NodePort 与 ExternalIP 流量
在传统的 Kubernetes 集群中,服务发现和负载均衡主要依赖 kube-proxy 。它通过维护大规模的 iptables 规则或 IPVS 虚拟服务器来实现流量转发。然而,随着集群规模的扩大, iptables 的 $...
-
告别 iptables 泥潭:在大规模 K8s 集群中用 eBPF 彻底解放 Service 转发性能
在 Kubernetes 集群规模迈向数千节点、数万 Pod 的过程中,网络性能往往会最先撞墙。 许多平台工程师或 SRE 都会遇到类似的诡异现象:集群节点数变多后,新建连接的延迟偶尔出现抖动,CPU 莫名其妙地在内核态出现尖峰,甚至...
-
如何防止 io_uring 异步文件 IO 退化为同步阻塞
在高性能系统编程中, io_uring 被寄予厚望。大家都期待它能带来极致的无锁、非阻塞异步 IO 体验。然而,许多人在将传统的 File IO 迁移到 io_uring 后,压测时却发现 CPU 消耗极高,甚至出现了意料之外的延迟...
-
深入 io_uring 零拷贝:高性能网络发送下的内存生命周期与背压控制
在百兆、千兆网络时代,标准的套接字 send/recv 带来的内核态与用户态内存拷贝( copy_to_user / copy_from_user )开销微乎其微。但在 100GbE / 400GbE 骨干网络及高吞吐、低延迟的现...
-
C++20 协程与无锁工作窃取:自研轻量级 Actor 模型的底层架构与实现
在现代多核架构中,传统的基于锁和多线程的并发模型常常面临着上下文切换开销大、死锁风险、以及线程阻碍等性能瓶颈。Actor 模型通过引入“无共享内存、通过消息传递进行通信”的隔离机制,提供了一种天然安全的并发范式。 借助 C++20 ...
-
为什么 Redis 坚持选择 epoll 的水平触发(LT)而非边缘触发(ET)?
在程序员的面试“八股文”中,关于 Linux epoll 的讨论几乎是一个必考点。很多人在背诵答案时,会形成一个思维定势: 边缘触发(ET)比水平触发(LT)更高效,因为 ET 减少了 epoll_wait 的调用次数。 然...
-
Linux 性能调优:如何精准查看特定进程的共享内存被 Swap 占用的比例?
在 Linux 运维和数据库调优(如 PostgreSQL、Oracle 或使用大量共享内存的 IPC 应用)中,我们经常会遇到系统响应突然变慢的情况。这时候,排查 Swap(交换分区) 占用是常规操作。 但很快你会发现一个令人头...
-
当进程因 OOM 被杀,共享内存中的 Robust Mutex 真的能 100% 释放吗?剖析内核层面的极致边界
在多进程共享内存的并发设计中, Robust Mutex(健壮互斥锁) 被广泛用于解决“持有锁的进程意外崩溃,导致其他进程永久死锁”的问题。 当一个进程因为内存耗尽(OOM)被内核发送 SIGKILL 强行杀掉时,大家通常认为内...
-
Linux 共享内存跨进程读写锁:如何系统性搞定进程崩溃后的死锁难题?
在多进程高并发场景下,共享内存(Shared Memory)因其“零拷贝”的特性,堪称进程间通信(IPC)的性能王牌。然而,高收益伴随着高风险。 最让人头疼的问题莫过于: 如果一个进程在持有共享内存的锁时,突然被 kill -9 、...
-
Linux 进程崩溃后,它的 flock / fcntl 文件锁会自动释放吗?
结论先行:会,Linux 内核会强制帮你收尾。 无论是被 kill -9 强杀、段错误(Segmentation fault)崩溃,还是正常 exit 退出,该进程持有的 flock 和 fcntl 文件锁 都会被...
-
Linux 文件锁的终极纠缠:flock、fcntl、lockf 的本质区别与致命陷阱
在 Linux 多进程或多线程开发中,文件锁(File Locking)是一个绕不开的坎。很多人在遇到进程间同步、防止程序多开、或者写入同一日志文件时,会随便搜一段代码,调个 flock 或者 fcntl 就上线了。 结果往往...
-
进程崩溃后,Linux内核是如何自动释放 flock 文件锁的?
在 Linux 系统中,如果一个进程在持有 flock 锁的情况下意外崩溃(例如收到 SIGSEGV 段错误信号而终止),内核并不会让这个文件锁一直悬空。内核拥有一套极其严密的资源回收机制,能够确保在进程退出时,自动释放其持有的所...
-
进程崩溃后,Linux 内核是如何清理 Robust Mutex 的?深度解析其底层清理机制
在多线程或多进程共享内存的并发编程中,死锁是一个经典的幽灵。而在所有死锁场景中,最让人头疼的一种是: 一个持有共享锁(Mutex)的进程突然崩溃(如收到 SIGSEGV 信号),导致该锁永远处于被持有状态,其他等待该锁的进程/线程将被永久...
-
如果 Robust Mutex 的恢复线程在 consistent 之前再次崩溃,这把锁会经历什么?
在 Linux 多线程或多进程共享内存的并发编程中, Robust Mutex(鲁棒互斥锁) 是解决“持有锁的线程意外死亡导致死锁”的终极武器。 通常的流程是:线程 A 持锁崩溃 $ rightarrow$ 线程 B 接管并收到 ...
-
进程崩溃后,它持有的跨进程 Robust Mutex 是如何被自动释放的
在多进程共享内存的并发编程中,跨进程锁(Shared Mutex)是一个常见的设计。但它有一个致命的阿喀琉斯之踵: 如果持有锁的进程在临界区内突然崩溃(比如收到 SIGSEGV 信号或被 kill -9 ),这个锁就会永远处于被持有...
-
用好 Ragged Batching,解决 Triton 动态批处理中的 NLP 显存爆炸
在生产环境中部署 BERT、GPT 等 NLP 模型时,我们几乎都会开启 Triton Inference Server 的 Dynamic Batching(动态批处理) 。这个功能很香,能把多个客户端的单条请求攒成一个 Batch ...
-
高并发生产环境下,如何无损动态更新 Triton BLS 路由逻辑?
在生产环境的高并发场景下,直接重启 Triton Inference Server 来更新 BLS(Business Logic Scripting)脚本的路由逻辑是不可接受的。这不仅会导致瞬时服务中断,还可能造成正在处理的(In-fli...
-
单点突变后在无显卡云服务器运行GROMACS动力学平衡的实操指南
在做完单点突变后(无论你是用 PyMOL、FoldX 还是 Rosetta 得到的突变体 PDB 文件),如果手头没有 GPU 显卡,利用廉价的纯 CPU 云服务器(如 8 核或 16 核的按量付费实例)跑完前期的 能量最小化(EM) 、...
-
ProteinMPNN设计序列后 怎么用PyMOL分析突变体相互作用力
ProteinMPNN 是目前蛋白质从头设计(De Novo Protein Design)和序列优化领域的主流工具。但它输出的直接结果是 FASTA 格式的氨基酸序列 ,而非带有三维坐标的 PDB 结构。 要使用 PyMOL 分析...