https://blog.charryc.fun/tags/%E7%BC%93%E5%AD%98/Recent content in 缓存 on Charrychttps://blog.charryc.fun/images/avatar.jpghttps://blog.charryc.fun/images/avatar.jpgHugozhWed, 26 Aug 2026 21:30:00 +0800https://blog.charryc.fun/posts/2026-08-26-cache-hit-data-path/Wed, 26 Aug 2026 21:30:00 +0800https://blog.charryc.fun/posts/2026-08-26-cache-hit-data-path/账单上的命中缓存不是把答案记下来，也不是缓存了 JSON。它比的是同一张 GPU 上、同一串 token 前缀的 KV。要从命中讲清楚，就得把训练格式、门口翻译、推理引擎、SSE 外壳走一遍。