上下文窗口 (context window)
集里怎么说它
- 《用 Markdown 组建一支军队:Y Combinator 掌门人的 AI 原生公司蓝图》(03:08起):本集把它说成:大模型处理信息的限制边界;嘉宾强调不能把所有计算(如海量多维数组排座位)都塞进上下文窗口里去做
- 《Parag Agrawal:当 AI 成为网络的第二个用户》(45:08起):本集说在智能体世界里,任务是把爬到的内容带进 AI 的上下文窗口,而不是把访客落在页面上。
- 《把智能体推向生产环境:为什么标准基础设施不够用》(03:58起):智能体的核心限制之一。讲者指出构建复杂智能体必然会把上下文窗口推向极限,导致模型更容易产生幻觉或失败,因此需要文件系统、摘要、子智能体等上下文管理手段来扩展窗口并保持模型专注。
- 《智能体为什么总是新员工?给它们造一个上下文引擎》(05:41起):本集说把整个代码库和架构文档塞进上下文窗口行不通:组织上下文远超百万 token 容量,还会让智能体分心、浪费 token 和时间。
- 《AI 原生组织如何运行在 Skills 之上》(06:34起):本集说技能通过渐进式披露在正确时机加载正确数量的技能,解决围绕上下文窗口的关键问题并减少 token 消耗
- 《Figma 第一个 MCP server 是怎么三个月做出来的》(05:21起):本集警告 Base64 图片「直接把上下文窗口撑爆了」,而 CodeConnect 的指针表示能把庞大代码换成小组件、省下上下文。
- 《智能体对智能体?其实是个搜索问题》(01:25起):本集说它是 LLM 单次调用能看到的信息范围,工程目标就是在返回结果或工具调用前把正确的信息装进窗口。
- 《Token 都烧在哪了:Cursor 工程师教你把 AI 编程成本打下来》(07:28起):本集把它说成:模型能容纳的上下文上限,接近 90% 时 harness 会自动压缩对话;被撑大或塞满失败尝试的上下文会像行李一样在每一轮被带着走、持续烧钱
- 《智能体就只是文件:当配置取代 Python》(13:52起):本集说 anti-gravity agent 的服务端自动管理上下文窗口和压缩,对话过长时自动压缩上下文,开发者无需管理。
- 《AI 让个人更快,却没让团队更快:智能体记忆才是真瓶颈》(05:33起):本集说上下文窗口是「提示词里的内容」,是 harness 的一部分;团队协作问题正是「提交了代码,但没有提交他们来自 Codex 的上下文」
- 《模型是租的,harness 才是你的:拆解智能体的七层框架》(14:57起):本集说它是一种短期记忆,存在 context rot:窗口内容越多、每项分到的注意力越少(注意力矩阵二次方扩展),所以要尽可能小。
- 《Tokens 进、互动出:推荐系统正在像 LLM 一样扩展》(10:03起):本集在论证内容必须压缩时提到:三分钟 Reel 不压缩是 10,000 个 token,会很快撑爆上下文窗口。
- 《MCP没有问题,你的智能体才有问题》(04:01起):本集说早期智能体一接 MCP 就注册 100 个工具,提问前就吃掉三分之一的上下文窗口;上下文越长准确性越差、成本越高,且是传递敏感信息的糟糕场所。
- 《一个月2500个代码合并是怎么做到的:专访pstack作者Potato》(19:39起):嘉宾说验证技能里 CLI 工作的灵感来源:当年压缩摘要不好,社区担心智能体一压缩就变蠢,所以要用脚本节省上下文
- 《AI 编码代理正在搞垮大型代码库》(03:04起):本集说理解是一个上下文问题:数百万行代码、数万仓库多到塞不进一个上下文窗口,也无法实时 clone 和 grep。
- 《仪表盘已死:智能体才是新用户》(04:12起):本集说接入太多 MCP 服务器等于把数千条工具定义直接倒进上下文窗口,模型会被淹没;而聪明做法是保存中间结果、先摸 schema,不把全量数据塞进上下文窗口。
- 《知识该放哪?提示词、记忆还是微调?》(09:51起):本集说可以在上下文窗口里加某些重要的东西,且提示词/上下文窗口里的信息会生成信号沉淀为持久化记忆
- 《无限上下文窗口是个神话:别再往里塞东西了》(00:47起):本集说「无限上下文窗口是神话」:窗口越大不等于越好,数据太多时模型因注意力 U 型曲线忘掉中间部分,且窗口可能被提示词注入毒害智能体。
① 提到它的金句
6 条
那种上下文无法进入人脑,但它可以进入 AI 的上下文窗口。
指向原始笔记的链接
That context can’t go into a human brain, but it can go into the AI context window.
—— Evan Reiser · [08:04]
我们最初的尝试是把 Base64 数据直接传进代码,那是个非常糟糕的主意。它直接把上下文窗口撑爆了,方方面面都很糟。别那么做。
指向原始笔记的链接
Our first attempt was just passing Base64 data into the code, and that was just a terrible idea. It just blew up the context window and was bad all around. Don’t do that.
—— Jesse Lumarie · [05:16]
如果你能影响或在那些 token 里留下印记,那价值比出现在单个上下文窗口里高出数量级。
指向原始笔记的链接
if you can get influence or imprint in those tokens, it’s worth, like, orders of magnitude more than being in a in a in single context window.
—— Ben Moore · [52:00]
模型是 CPU,上下文窗口是内存(RAM),而记忆是磁盘。
指向原始笔记的链接
The model is the CPU, the context window is the RAM, and the memory is the disk.
—— Dylan Couzon · [06:46]
在智能体之间共享上下文窗口,就像是给其他智能体添加垃圾,因为并不是所有智能体都需要彼此之间的信息。
指向原始笔记的链接
You share the context window between agents is like add garbage to the other agents because no all the agents need the information between them.
—— Elizabeth Fuentes Leone · [09:59]
当每个人都想要个人智能体,或者每个企业都想要自己的、全天候 24-7 持续在线并运行大量自动化的个人智能体时,上下文窗口比内存中的模型权重更重要。
指向原始笔记的链接
When everybody wants personal agents or every business wants its own personal agents that’s always on and working 24-7 and running a lot of automations, the context window matters even more than the model weights in the memory.
—— Arvind Srinivas · [30:26]
② 出现在这些集
18 集
- 《用 Markdown 组建一支军队:Y Combinator 掌门人的 AI 原生公司蓝图》 — 作为概念
- 《Parag Agrawal:当 AI 成为网络的第二个用户》 — 作为概念(提及)
- 《把智能体推向生产环境:为什么标准基础设施不够用》 — 作为概念
- 《智能体为什么总是新员工?给它们造一个上下文引擎》 — 作为概念
- 《AI 原生组织如何运行在 Skills 之上》 — 作为概念
- 《Figma 第一个 MCP server 是怎么三个月做出来的》 — 作为概念
- 《智能体对智能体?其实是个搜索问题》 — 作为概念
- 《Token 都烧在哪了:Cursor 工程师教你把 AI 编程成本打下来》 — 作为概念
- 《智能体就只是文件:当配置取代 Python》 — 作为概念
- 《AI 让个人更快,却没让团队更快:智能体记忆才是真瓶颈》 — 作为概念
- 《模型是租的,harness 才是你的:拆解智能体的七层框架》 — 作为概念
- 《Tokens 进、互动出:推荐系统正在像 LLM 一样扩展》 — 作为概念(提及)
- 《MCP没有问题,你的智能体才有问题》 — 作为概念
- 《一个月2500个代码合并是怎么做到的:专访pstack作者Potato》 — 作为概念(提及)
- 《AI 编码代理正在搞垮大型代码库》 — 作为概念
- 《仪表盘已死:智能体才是新用户》 — 作为概念
- 《知识该放哪?提示词、记忆还是微调?》 — 作为概念(提及)
- 《无限上下文窗口是个神话:别再往里塞东西了》 — 作为概念
③ 关联
点进去有真内容 —— 本页主要出口
智能体 · MCP · harness · Anthropic · Claude · Claude Code · Cursor · Codex · 沙箱 · RAG
