架构师老张
-
SQL执行计划的7个关键影响因素,数据库工程师必看
执行计划背后的关键博弈 当我们在MySQL客户端敲下EXPLAIN时,那个看似简单的执行计划输出,实际上是优化器经过复杂计算的产物。影响这个决策的7个核心维度,构成了数据库查询优化的底层逻辑。 一、统计信息准确度 数据库优化器...
-
Triton 复杂推理流水线：Ensemble 与 BLS 的时延损耗深剖与选型指南
在将深度学习模型推向生产环境时，极少有单体模型能包揽全部业务逻辑。一个典型的工业级推理服务往往由多个模块级联而成：例如“ 目标检测（YOLO） -> 抠图与对齐（预处理） -> 特征提取（ResNet） -> 向量检索与...
-
拒绝万恶的H2D拷贝：在Triton中用CUDA共享内存实现大图推理极速优化
在智能视觉、工业缺陷检测、超分辨率等场景中，我们经常需要处理 4K 甚至 8K 的超大尺寸图像。在传统的推理流程中，即使你把 GPU 上的模型优化到了极致，端到端的时延依然可能高达几十甚至上百毫秒。 用 Profiler 仔细分析就会...
