charryc

charryc

前端 · AI agent

写前端,也写 AI agent。对界面和交互比较较真。一年经验。最近在啃 agent,后端业务也在补。

TypeScript · JavaScript · Node.js · Python

Charry-C
写作记录 过去一年 3 篇 · 2 天动过笔
少 多

近期

全部

命中缓存卡在哪一层

账单上的命中缓存不是把答案记下来,也不是缓存了 JSON。它比的是同一张 GPU 上、同一串 token 前缀的 KV。要从命中讲清楚,就得把训练格式、门口翻译、推理引擎、SSE 外壳走一遍。

12 分钟 LLM 推理服务

第一晚,这台机器被砸了一万四千次

从 GitHub 拉下 vps-audit,发现 25 小时里 SSH 失败登录 1.4 万次。装 fail2ban、换 root 密码、封慢扫 IP 之后,攻击从每小时上千次掉到十几次。

11 分钟 服务器安全

先写一篇,当作说明书

这个站怎么发文、改文、上线。DNS 解析好之后打开就能看。

2 分钟 meta