跨国深谈← 返回←缓存 (cache)

集里怎么说它

• 《Token 都烧在哪了：Cursor 工程师教你把 AI 编程成本打下来》(12:13起):本集把它说成:模型提供商侧按前缀匹配的缓存系统,让重复读入的对话历史走便宜的缓存读取;会话中途改规则或换模型会击穿缓存,但实际影响只是很小一次波动

① 提到它的金句

2 条

那比在你认知的 L1 缓存里直接知道它要慢得多。
That’s a hell of a lot slower than knowing it in cognitive L1 cache.
—— Patrick Collison · [02:47]

指向原始笔记的链接

我把那本质上视为引擎的一种失败状态，如果我到了出现 KV cache 抖动或者东西被刷到磁盘的地步，那说明我把引擎部署得不对。
I think of that as essentially like a failure state of the engine that we, like I’ve deployed my engine improperly if I get to the case where I have KV cache thrashing or like things being flushed to disk.
—— Charles Frye · [45:46]

指向原始笔记的链接

② 出现在这些集

1 集

• 《Token 都烧在哪了：Cursor 工程师教你把 AI 编程成本打下来》 — 作为概念

③ 关联

点进去有真内容 —— 本页主要出口

Santi Garza · Martin · Cursor · 智能体 · token · harness · 上下文窗口 · 提示词 · 压缩 · 模型选择