上下
上下文长度 (context length)
概念
本站收录 3 集 · 0 条金句 · 关联 10 个
集里怎么说它
- 《推理才是赚钱的生意：Positron 联合创始人谈内存墙、缓存暴利与「守住前沿」之争》(56:30起):本集说百万 token 是常态但离装下大代码库还远，1000 万 token 才够智能体编程交叉启发多个代码库；难点是内存成本二次方增长，且宣称长上下文与真正用好它是两回事。
- 《搜代码不用向量库，搜公司文档为什么不行？》(06:36起):本集指出上下文已到一百万 token，但用模型上下文做数据摄入和搜索极其昂贵，把二进制文件发给模型渲染等于烧 token。
- 《前沿实验室高管亲口说：AI 有一个我们不该越过的智能上限》(33:05起):本集说上下文长度是今天 AI 应用到大多数场景的主要限制因素:智能体并发增多、每个都要独立上下文,内存需求爆炸式增长。
② 出现在这些集
3 集
- 《推理才是赚钱的生意：Positron 联合创始人谈内存墙、缓存暴利与「守住前沿」之争》 — 作为概念
- 《搜代码不用向量库，搜公司文档为什么不行？》 — 作为概念
- 《前沿实验室高管亲口说：AI 有一个我们不该越过的智能上限》 — 作为概念
③ 关联
点进去有真内容 —— 本页主要出口
Anthropic · 智能体 · Positron · NVIDIA · 推理 · 缩放定律 · Thomas Sohmers · George He · Prakash Narayanan · Harry Stebbings