网络协议栈
-
舍弃外部网关，改用 Triton BLS 编排模型，延迟能降多少？
在多模型级联（如 ASR + NLP + TTS，或者目标检测 + 裁剪 + 属性分类）的业务场景中，如何编排模型一直是个经典架构问题。 常见的做法有两种： 外部网关分桶/编排 ：在 Triton 外部写一个 Go/Pyth...
-
深度解析：SPDK 在 NVMe-oF（TCP/RDMA）下相较于内核驱动有哪些核心技术优化？
在现代超大规模数据中心和高性能存储架构中，NVMe-oF（NVMe over Fabrics）已经成为连接计算节点与存储节点的标准协议。 然而，当底层存储介质（如 Optane、QLC/TLC 闪存）的物理延迟降低到微秒级，网络带宽飙...
-
突破网络瓶颈：SPDK NVMe-oF TCP 架构下的 io_uring 与 eBPF 套接字优化实践
在 NVMe-over-Fabrics (NVMe-oF) TCP 部署中，尽管 SPDK（Storage Performance Development Kit）利用用户态、轮询模式（Poll-mode）驱动极大地释放了 SSD 的吞吐...
-
SPDK NVMe-oF 性能实测：RDMA 与 AF_XDP TCP 延迟与 CPU 损耗的深度量化剖析
在超大规模数据中心和高性能存储架构中，如何压榨网络协议栈的每一分性能是永恒的主题。SPDK（Storage Performance Development Kit）作为用户态存储领域的标杆，其 NVMe-oF（NVMe over Fabr...
-
打破 K8s 传统网络瓶颈：基于 eBPF 的多租户容器隔离与 EDT 极速限速设计
在多租户 Kubernetes 集群中，网络隔离与带宽限制是保障租户安全与服务质量（QoS）的刚需。然而，传统的实现方案往往存在严重的性能瓶颈： 网络隔离 ：传统方案依赖 iptables 或 IPVS 。当集群 Serv...
-
告别 iptables 泥潭：在大规模 K8s 集群中用 eBPF 彻底解放 Service 转发性能
在 Kubernetes 集群规模迈向数千节点、数万 Pod 的过程中，网络性能往往会最先撞墙。 许多平台工程师或 SRE 都会遇到类似的诡异现象：集群节点数变多后，新建连接的延迟偶尔出现抖动，CPU 莫名其妙地在内核态出现尖峰，甚至...
-
PVE直通万兆网卡高负载下载时宿主机直接死机失联，该怎么抓取崩溃日志？
在玩 Homelab 或者企业私有云时，PVE（Proxmox VE）直通万兆网卡（如 Intel X520/X540、Mellanox ConnectX-3/4、Aquantia 等）是压榨网络性能的常见操作。 然而，不少人会遇到一...
-
高并发下 Linux 服务器 softirq 飙高？从底层原理到实战调优指南
在高并发（尤其是海量小包网络吞吐）的场景下，Linux 服务器的 CPU 使用率中经常会出现 si (softirq，软中断) 占比极高、甚至单核被压死的现象。伴随而来的往往是丢包、延迟飙升以及吞吐量严重下滑。 要彻底解决这个问题...
-
拒绝黑屏与切源：用 Looking Glass 实现 KVM 虚拟机超低延迟无感画面回传
在搞定 KVM 显卡直通（VFIO）后，很多人面临的下一个痛点就是 显示输出 。 传统的物理双线接单显示器需要频繁切换信号源，而使用物理采集卡又存在额外的延迟和成本。RDP 或 VNC 这类网络串流方案对于游戏或高刷场景来说，高压缩率...
-
榨干显卡直通性能：Proxmox VE (PVE) 虚拟机配置 Looking Glass 极速无延迟串流指南
在玩转 Homelab 和 PVE 显卡直通时，很多人会遇到一个棘手的问题： 如何无延迟地在另一台设备（或宿主机本身）上操作虚拟机？ 传统的 RDP（远程桌面）由于协议限制，不仅砍掉了显卡加速，玩游戏还会有明显的音频与画面延迟；VN...
124 Proxmox VE显卡直通
