RocksDB
-
Redis HyperLogLog 实战指南：在 Flink/Spark 中实现海量数据实时基数统计与状态管理
在处理海量实时数据流时，精确计算独立访客数（UV）、不同商品被点击次数等基数（Cardinality）指标往往是性能瓶颈。传统的 COUNT(DISTINCT column) 或 Set 数据结构在数据量巨大时会消耗惊人的内存和计算资...
-
Redis Stream 对比 Kafka 实现延迟队列 哪个更胜一筹
在需要处理“过一段时间再做某事”的场景下，延迟队列就派上用场了。比如，订单创建后30分钟未支付自动取消，或者用户预约提醒等等。技术选型时，Redis 和 Kafka 作为常见的消息处理组件，经常被纳入考虑范围。那么，使用 Redis St...
-
为什么在极限性能场景下，SPDK 依然比 io_uring 快？
在当今的存储性能压测中，如果你把一块企业级 PCIe Gen4/Gen5 NVMe SSD 的性能推向极限，通常会发现一个现象：尽管 Linux 的 io_uring 已经将内核异步 I/O 的性能提升到了前所未有的高度，但在单核 I...
-
动辄百倍写放大？共识协议元数据在 LSM-Tree 中的压缩策略演进
在分布式数据库与一致性协同系统中，基于 Paxos 或 Raft 协议的共识机制是保障数据强一致性的基石。然而，作为状态机驱动的核心，共识协议自身的元数据（如 Raft Log、Current Term、VotedFor、Commit I...
-
RocksDB 面对大 KV 高频写入直接拉胯？聊聊 Titan KV 分离架构的深水区避坑指南
在传统的 LSM-Tree 架构中，RocksDB 是应对高并发写入的利器。然而，一旦业务场景中出现了 1MB 以上的大 Key-Value（LKV） ，且伴随着 高频写入 ，RocksDB 的写放大（Write Amplificati...
-
深入 RocksDB/Titan：如何优雅地针对特定 CF 禁用与启用 KV 分离？（附动态切换避坑指南）
在海量 KV 存储场景中，RocksDB 的写放大（Write Amplification）一直是架构师的心头大患。为此，PingCAP 开发了 Titan 作为 RocksDB 的 KV 分离插件，通过将大 Value 写入独立的 Bl...
-
TiKV Titan 存储引擎应对 SSD 硬件空洞与文件系统碎片的深层优化实践
在 TiDB/TiKV 的大规模生产实践中，为了应对大 Value 带来的写放大问题，我们通常会开启 Titan 存储引擎。Titan 通过 KV 分离 （Key-Value Separation）将大 Value 从 LSM-tree...
-
SSD FTL 碎片化是如何击穿数据库 P99 延迟的？
在评估数据库性能时，平均响应时间（Average Latency）往往是一片风平浪静，但 P99 甚至 P99.9 延迟的突然飙升（比如从数百微秒暴涨至数十毫秒），却常常成为线上系统的“无形杀手”。 这种偶发性的延迟毛刺，很多时候并非...
-
如何设计 LSM-Tree 存储引擎的 Compaction 限速机制，彻底解决 P99 延迟抖动？
在基于 LSM-Tree（Log-Structured Merge-tree）架构的存储引擎（如 RocksDB、TiKV 等）中， Compaction（压实） 是维持系统健康运转的核心机制。它通过在后台合并 SStables，清理过...
-
彻底解决 RocksDB Write Stall：当 pending compaction bytes 激增，如何平滑限流避免延迟抖动？
在基于 LSM-Tree（Log-Structured Merge-Tree）架构的存储引擎（如 RocksDB）中， Write Stall（写入停顿） 是最令架构师和 DB 运维人员头疼的性能杀手。当写入速度远超后台 Compact...
-
榨干 RocksDB 性能：如何通过 Write Buffer Manager 优雅平衡内存与 Flush 效率？
在基于 LSM-Tree（Log-Structured Merge-tree）架构的存储引擎（如 RocksDB、Pebble）中， MemTable 是承接写入流量的第一站。为了防止内存无限膨胀导致 OOM（Out of Memory...
-
LSM-Tree 存储引擎如何在 SSD 上实现「写放大」自救？
在现代高并发写入场景中，LSM-Tree（Log-Structured Merge-Tree）凭借其将随机写转化为顺序写的特性，成为了 RocksDB、Cassandra 等主流存储引擎的基石。然而，这种设计天然带来了一个致命的副作用： ...
-
如何精准测试 SSD 和 RocksDB 的物理写放大（WAF）？从 Fio 到 db_bench 的实操指南
在存储系统与数据库性能调优中， 写放大系数（WAF, Write Amplification Factor） 是决定 SSD 寿命和系统写入吞吐量的核心指标。 许多工程师在测试 WAF 时，经常会遇到数据对不上的情况：为什么 Roc...
-
不重启 RocksDB，如何动态、精准地获取当前 Compaction 引起的 WAF 趋势？
在生产环境的高并发写入场景下，RocksDB 的写放大（Write Amplification Factor, WAF）是导致 I/O 抖动和吞吐量下降的罪魁祸首。很多时候，我们发现磁盘 I/O 跑满，怀疑是 Compaction 引起的...
-
LSM 存储引擎高频写入时 Leveled 与 Universal 的动态写放大波动曲线有什么本质区别
在基于 LSM-Tree（Log-Structured Merge-tree）架构的存储引擎（如 RocksDB、TiKV 等）中，**写放大（WAF - Write Amplification Factor）**是决定系统写入吞吐量和 ...
-
怎样设计自适应限速算法平抑LSM树时序数据库的Compaction引起的IO抖动
在时序数据库（TSDB）的生产环境中，最让架构师和运维痛、也最难解决的问题之一，莫过于 毫无征兆的写入延迟毛刺 。 这类毛刺通常呈现出高度的周期性或突发性：系统在平稳运行数小时后，写入吞吐突然断崖式下跌，P99 延迟瞬间飙升到数秒，几...
-
搞定 RocksDB FIFO Compaction 的暗坑：如何在高吞吐下兼顾空间放大与写入抖动？
在分布式存储系统的设计中，针对时序数据、大容量缓存或纯追加（Append-only）写入场景，开发者通常会首选 RocksDB 的 FIFO Compaction 策略。其核心逻辑非常简单：像一个环形缓冲区（Ring Buffer）一...
-
解决RocksDB在时序高并发场景下MemTable频繁Flush、WAL积压与写放大的系统性方案
在基于 RocksDB 构建高并发时序数据库（TSDB）时，很多架构师和内核开发人员都会遭遇一个经典的技术「死锁」： 在高吞吐写入下，为了保证写入性能和防止 OOM，系统会频繁触发 MemTable Flush。这看似释放了内存，却直...
-
RocksDB 部署在 SSD 上，如何通过参数调优与冷热分离将写放大（WAF）降低 50% 以上？
在企业级存储与数据库架构中，RocksDB 作为经典的 LSM-Tree（Log-Structured Merge-Tree）存储引擎，因其极高的写入吞吐量被广泛应用。然而，LSM-Tree 天生的“空间换时间”机制，会导致频繁的后台 C...
-
跑满 NVMe 极限：基于 SPDK 的无锁分布式元数据引擎架构设计
在单盘 NVMe SSD 轻松突破百万级 IOPS、百微秒级延迟的今天，分布式存储系统的性能瓶颈早已不再是底层物理硬件的读写速度，而是软件栈在 CPU 上的开销。 在传统架构中，元数据引擎（如基于内核态文件系统的 RocksDB）在面...
