TCP
-
SRE视角:Kubernetes高级流量控制机制——Istio服务网格
嘿,同为SRE,你提到的这些痛点和需求我深有体会!Nginx Ingress的Annotation在简单场景下确实方便,但一旦涉及到复杂的流量路由、精细的灰度发布、A/B测试,以及你说的根据地理位置分发,就会显得力不从心,而且运维起来确实...
-
舍弃外部网关,改用 Triton BLS 编排模型,延迟能降多少?
在多模型级联(如 ASR + NLP + TTS,或者目标检测 + 裁剪 + 属性分类)的业务场景中,如何编排模型一直是个经典架构问题。 常见的做法有两种: 外部网关分桶/编排 :在 Triton 外部写一个 Go/Pyth...