26 8月命中缓存卡在哪一层账单上的命中缓存不是把答案记下来，也不是缓存了 JSON。它比的是同一张 GPU 上、同一串 token 前缀的 KV。要从命中讲清楚，就得把训练格式、门口翻译、推理引擎、SSE 外壳走一遍。12 分钟 LLM 推理服务