KV
KVCache
概念
本站收录 1 集 · 0 条金句 · 关联 10 个
集里怎么说它
- 《把 100 万 token 用出 5 万的体验：SubQuadratic 的稀疏注意力》(35:02起):本集说它在数百万 token 时可能比模型权重本身还占内存,难以上机承载,也让机器人(只有手机大小显存)的长程建模不可能;SubQuadratic 在做让 KVCache 完全不必要的非注意力算法。
② 出现在这些集
1 集
③ 关联
点进去有真内容 —— 本页主要出口
Alexander Whedon · SubQuadratic · 稀疏注意力 · 上下文工程 · 智能体 · RAG · 预训练 · DeepSeek Sparse Attention · Transformer · Opus 4.6