多线程
-
SPDK Blobstore在高频元数据写入场景下的碎片整理与GC架构设计
在高性能存储系统设计中，SPDK Blobstore 凭借其用户态、异步、无锁以及轮询（Polled-mode）的特性，成为了构建新型分布式存储和数据库底层引擎的热门选择。然而，当面临高频、小包的元数据（如目录树修改、KV索引更新、对象属...
-
跑满 NVMe 极限：基于 SPDK 的无锁分布式元数据引擎架构设计
在单盘 NVMe SSD 轻松突破百万级 IOPS、百微秒级延迟的今天，分布式存储系统的性能瓶颈早已不再是底层物理硬件的读写速度，而是软件栈在 CPU 上的开销。 在传统架构中，元数据引擎（如基于内核态文件系统的 RocksDB）在面...
-
如何设计 LSM-Tree 存储引擎的 Compaction 限速机制，彻底解决 P99 延迟抖动？
在基于 LSM-Tree（Log-Structured Merge-tree）架构的存储引擎（如 RocksDB、TiKV 等）中， Compaction（压实） 是维持系统健康运转的核心机制。它通过在后台合并 SStables，清理过...
-
为什么在极限性能场景下，SPDK 依然比 io_uring 快？
在当今的存储性能压测中，如果你把一块企业级 PCIe Gen4/Gen5 NVMe SSD 的性能推向极限，通常会发现一个现象：尽管 Linux 的 io_uring 已经将内核异步 I/O 的性能提升到了前所未有的高度，但在单核 I...
-
如何防止 io_uring 异步文件 IO 退化为同步阻塞
在高性能系统编程中， io_uring 被寄予厚望。大家都期待它能带来极致的无锁、非阻塞异步 IO 体验。然而，许多人在将传统的 File IO 迁移到 io_uring 后，压测时却发现 CPU 消耗极高，甚至出现了意料之外的延迟...
-
io_uring 缓冲池优化实践：如何用无锁 Buffer Ring 彻底解决网络库的内存抖动
在编写高性能网络服务器时，最让人头疼的往往不是 I/O 拷贝本身，而是 内存分配的确定性 。 在传统的 epoll 异步非阻塞模型中，我们通常面临两难境地： 预分配模式 ：为每个连接（Connection）在初始化时就绑...
-
利用 io_uring 固化缓冲区与 C++23 内存池攻克大文件零拷贝吞吐极限
在大文件网络传输或高性能存储系统中，传统的 read / write 系统调用往往伴随着高昂的 CPU 拷贝开销与内核态/用户态切换成本。即便使用标准 io_uring 异步接口，如果在每次 I/O 提交时都动态建立用户空间页...
-
突破异步C++极限：如何基于 P2300 (std::execution) 构建高性能 io_uring 调度器？
在 C++23 中，随着 std::execution （即 P2300 提案）的逐步落地，C++ 异步编程正在迎来底层的统一变革。借助 Sender/Receiver（发送器/接收器） 模型，我们可以用高度结构化的方式组织异步任务...
-
C++20 协程与无锁工作窃取：自研轻量级 Actor 模型的底层架构与实现
在现代多核架构中，传统的基于锁和多线程的并发模型常常面临着上下文切换开销大、死锁风险、以及线程阻碍等性能瓶颈。Actor 模型通过引入“无共享内存、通过消息传递进行通信”的隔离机制，提供了一种天然安全的并发范式。 借助 C++20 ...
-
Redis 单线程与 Reactor 模型的精密协同机制
在高性能网络编程领域，Redis 常被作为“单线程高性能”的典范。要理解为什么 Redis 的单线程设计在处理高并发网络 IO 时，不仅没有成为瓶颈，反而避免了多线程的延迟副作用，我们需要从 CPU 架构、操作系统内核以及 Redis 自...
-
当进程因 OOM 被杀，共享内存中的 Robust Mutex 真的能 100% 释放吗？剖析内核层面的极致边界
在多进程共享内存的并发设计中， Robust Mutex（健壮互斥锁） 被广泛用于解决“持有锁的进程意外崩溃，导致其他进程永久死锁”的问题。 当一个进程因为内存耗尽（OOM）被内核发送 SIGKILL 强行杀掉时，大家通常认为内...
-
Linux 共享内存跨进程读写锁：如何系统性搞定进程崩溃后的死锁难题？
在多进程高并发场景下，共享内存（Shared Memory）因其“零拷贝”的特性，堪称进程间通信（IPC）的性能王牌。然而，高收益伴随着高风险。 最让人头疼的问题莫过于： 如果一个进程在持有共享内存的锁时，突然被 kill -9 、...
-
Linux 进程崩溃后，它的 flock / fcntl 文件锁会自动释放吗？
结论先行：会，Linux 内核会强制帮你收尾。 无论是被 kill -9 强杀、段错误（Segmentation fault）崩溃，还是正常 exit 退出，该进程持有的 flock 和 fcntl 文件锁 都会被...
-
Linux 文件锁的终极纠缠：flock、fcntl、lockf 的本质区别与致命陷阱
在 Linux 多进程或多线程开发中，文件锁（File Locking）是一个绕不开的坎。很多人在遇到进程间同步、防止程序多开、或者写入同一日志文件时，会随便搜一段代码，调个 flock 或者 fcntl 就上线了。 结果往往...
-
进程崩溃后，Linux 内核是如何清理 Robust Mutex 的？深度解析其底层清理机制
在多线程或多进程共享内存的并发编程中，死锁是一个经典的幽灵。而在所有死锁场景中，最让人头疼的一种是： 一个持有共享锁（Mutex）的进程突然崩溃（如收到 SIGSEGV 信号），导致该锁永远处于被持有状态，其他等待该锁的进程/线程将被永久...
-
如果 Robust Mutex 的恢复线程在 consistent 之前再次崩溃，这把锁会经历什么？
在 Linux 多线程或多进程共享内存的并发编程中， Robust Mutex（鲁棒互斥锁） 是解决“持有锁的线程意外死亡导致死锁”的终极武器。 通常的流程是：线程 A 持锁崩溃 $ rightarrow$ 线程 B 接管并收到 ...
-
进程崩溃后，它持有的跨进程 Robust Mutex 是如何被自动释放的
在多进程共享内存的并发编程中，跨进程锁（Shared Mutex）是一个常见的设计。但它有一个致命的阿喀琉斯之踵： 如果持有锁的进程在临界区内突然崩溃（比如收到 SIGSEGV 信号或被 kill -9 ），这个锁就会永远处于被持有...
-
跨进程的极致性能：用 C++ 共享内存实现无锁队列的硬核细节
在开发高并发、低延迟的系统（如极速交易系统、音视频实时处理、高性能网关）时，多进程通信（IPC）是绕不开的瓶颈。很多人第一反应是使用 POSIX 共享内存（Shared Memory），毕竟直接读写物理内存的延迟是微秒级的。 为了榨干...
-
Triton共享内存在C++与Python客户端下的性能差异与调优实践
在利用 Triton Inference Server 部署高吞吐、低延迟的深度学习模型时，传统的 gRPC 或 HTTP 协议往往会因为 数据序列化/反序列化 以及 网络栈拷贝 成为系统瓶颈。特别是在处理超大图像、视频流或高维张量时，这...
-
Triton 架构下 Python 与 PyTorch Backend 的并发显存开销差异及泄露精准定位实践
在生产环境中部署深度学习模型时，NVIDIA Triton Inference Server 是最常用的高性能推理引擎之一。然而，许多开发者在从 PyTorch (LibTorch) Backend 迁移到 Python Backend，...
