草稿
草稿模型 (draft model)
概念
本站收录 1 集 · 0 条金句 · 关联 10 个
集里怎么说它
- 《让小模型先猜，大模型来批：推理加速值不值？》(03:25起):本集说它是做猜测工作的小模型，通常比目标模型小 10 到 50 倍、需用同一套 tokenizer、最好来自同一模型家族；演示中草稿模型仅 2.5GB
② 出现在这些集
1 集
- 《让小模型先猜，大模型来批：推理加速值不值？》 — 作为概念
③ 关联
点进去有真内容 —— 本页主要出口
Sheila · 投机解码 · 接受率 · KVCache · 推理 · GPU · vLLM · Llama · RAG · Akamai