提示缓存白话版：复用上下文别付两次钱

「提示缓存白话版：复用上下文别付两次钱」（类目 AI 工具讲解）的 5 拍无露脸大纲，来自 2 条人工字幕参考片的定时节拍。

角度

• 定义提示缓存为复用输入前缀 KV——不是缓存模型答案
• 展示长系统+工具前缀稳定时的成本/延迟收益
• 点名匹配规则：逐 token 前缀直到第一处不同
• 收尾讲清何时帮到代理、何时变动提示杀死命中率

节拍 / 大纲

1. 钩子（0:00–0:30）：又是 5 万 token 上下文——承诺不必全部重算。
2. 定义（0:30–2:00）：缓存提示侧；输出仍新生成。
3. 机制（2:00–4:30）：各层 KV；前缀匹配到分叉。
4. 代理技巧（4:30–6:00）：系统/工具保持稳定；把变动放末尾。
5. 回顾。旁白原创。

参照片

• What is Prompt Caching? Optimize LLM Latency with AI Transformers u57EnkQaUTY
• Prompt Caching Explained: Stop Overpaying for AI Agents SkM4k4SKvCM

方法

yt-dlp VTT 人工字幕（非自动）→ 时段启发式 → 选题级编辑综合（无 ASR）。仅结构参考；旁白须原创。