预填
预填充 (pre-fill)
概念
本站收录 1 集 · 0 条金句 · 关联 10 个
集里怎么说它
- 《大模型背后：推理引擎到底在干什么》(10:20起):每个请求先做的输入处理阶段,算术强度高得多,与 decode 是两个半独立子负载,走不同代码路径
② 出现在这些集
1 集
- 《大模型背后：推理引擎到底在干什么》 — 作为概念
③ 关联
点进去有真内容 —— 本页主要出口
Charles Frye · Modal · SGLang · vLLM · PyTorch · NVIDIA · Cognition · 推理 · 推理引擎 · 调度器