投机解码 (speculative decoding)
概念
出现在 1 集 · 金句 0 条 · 关联 10 个
集里怎么说它
- 《为什么 AI 基础设施必须为「Agent 体验」进化》(16:30起):本集把它说成：让小模型（草稿模型）先猜、大模型来验证的加速推理技术；能增加接受长度，带来 2 到 4 倍的乘法性加速且无质量损失。
出现在这些集
- 《为什么 AI 基础设施必须为「Agent 体验」进化》 — 作为概念
关联实体
swyx · Akshat Bubna · Vibhu · Modal · Kubernetes · 无服务器 · 沙箱 · 智能体 · 推理 · GPU 快照