投机
投机解码 (spec decoding)
概念
本站收录 1 集 · 0 条金句 · 关联 10 个
集里怎么说它
- 《开源大模型要跑得快，背后全是硬功夫》(05:23起):小模型先猜着生成 token、大模型最后验证——像高级工程师把活派给初级工程师再用通用数据训练 draft 模型已见最多 30% 提升,用自己的生产数据训练效果更好,可一键完成
② 出现在这些集
1 集
- 《开源大模型要跑得快，背后全是硬功夫》 — 作为概念
③ 关联
点进去有真内容 —— 本页主要出口
Nebius · Token Factory · 开源模型 · 推理 · KV 缓存 · 量化 · 后训练 · 负载均衡 · NVIDIA · 微调