智能
智能体推理 (agentic inference)
概念
本站收录 1 集 · 0 条金句 · 关联 10 个
集里怎么说它
- 《智能体推理不是聊天加量：Friendly AI 重建推理云》(00:28起):本集说它是与聊天完全不同的问题:基本单元是任务而非请求,上下文随时间增长、工具工作交错在模型调用之间,真正要优化的是端到端任务延迟。
② 出现在这些集
1 集
③ 关联
点进去有真内容 —— 本页主要出口
Byung-Gon (Gon) Chun · Friendly AI · 智能体 · 开放权重模型 · 推理 · 连续批处理 · 前缀缓存 · KV 缓存管理 · 缓存感知路由 · 智能体感知优化