charryc前端 · AI agent写前端,也写 AI agent。对界面和交互比较较真。一年经验。最近在啃 agent,后端业务也在补。TypeScript · JavaScript · Node.js · Python Charry-C写作记录 过去一年 3 篇 · 2 天动过笔8月9月10月11月12月1月2月3月4月5月6月7月8月一 三 五
26 8月命中缓存卡在哪一层账单上的命中缓存不是把答案记下来,也不是缓存了 JSON。它比的是同一张 GPU 上、同一串 token 前缀的 KV。要从命中讲清楚,就得把训练格式、门口翻译、推理引擎、SSE 外壳走一遍。12 分钟 LLM 推理服务
16 8月第一晚,这台机器被砸了一万四千次从 GitHub 拉下 vps-audit,发现 25 小时里 SSH 失败登录 1.4 万次。装 fail2ban、换 root 密码、封慢扫 IP 之后,攻击从每小时上千次掉到十几次。11 分钟 服务器安全