上下文 (context)
集里怎么说它
- 《Brian Balfour:ChatGPT 即将打开新分发渠道,你怎么下注》(30:35起):本集将其视为 ChatGPT 护城河的核心:AI 模型并排比较产出差不多,真正的差异在谁拥有更多你的上下文——上下文加模型才等于最好的输出
- 《OpenAI Codex 全实操:用智能体舰队打造「10 倍速」工作流》(04:36起):本集把它说成:「上下文为王」,是新时代的生产力护城河,所有的文档和项目必须高度组织化并保持在本地,才能让 AI 获得最大权限与最强能力。
- 《DevOps 之父 Patrick Debois:AI 时代组织比技术更难成熟》(04:40起):本集把它说成 AI 编码技术堆栈的基础层之一,一次上下文改进能影响所有团队,是共享组件的核心部分
- 《当系统出故障时,让 AI 代替作战室里的 50 个人——Traversal 谈如何造 AI SRE》(03:25起):指 LLM 一次能读入的文本长度限制;本集指出即便用到 100 万 token 的窗口也远不够,需用文件系统存放细节让智能体按需检索。
- 《Datadog 4000 人AI赋能实战:删掉上下文反而更好》(00:00起):本集重点讨论的治理对象。Datadog 发现一年前写给 Sonnet 3.5 的上下文文件在今天已变成噪音,清空后 eval 表现反而显著提升——即’上下文腐烂’现象。治理原则从往上下文里塞’怎么做’转为确保工具本身的错误信息清晰。
- 《个人 AGI:用 Markdown 组建你自己的劳动力》(06:04起):本集说杠杆不在模型权重里而在上下文里,同样一个 Claude,2 倍和 100 倍的差别在于你给什么上下文、多相关、是否在正确步骤介入
- 《产品里的智能体为什么总“瞎”:Harmonic 的上下文可见性法则》(04:26起):本集重点讨论了上下文管理,指出如果直接把成千上万行的搜索结果塞进消息列表,上下文很快就会爆炸,导致模型被海量数据污染。
- 《从算盘到 AI 原生软件:Pipecat 创始人的八十年计算史漫游》(00:58起):本集在谈到丰富的上下文喂养时提到;在子智能体部分提到了异步非阻塞上下文压缩与共享上下文
- 《让非工程师也能下指令:Superconductor 的多人智能体协作法》(04:06起):本集把它说成:一个智能体会话自带的完整工作状态;强调要同一个 session 贯穿 Slack、桌面应用、GitHub 等多端,不让智能体因切换环境而丢失上下文。
- 《当所有人都在用智能体写代码,你靠什么脱颖而出:与 Wes 聊开发者的当下》(01:48起):本集反复提到上下文——模型在接收上下文方面变好了,AI 非常擅长在给定上下文的情况下决定做什么,网站自愈也需要收集各种上下文片段
- 《Lindy 创始人谈 AI 员工的上下文战争:从红黑树到”走去洗车”》(04:23起):本集核心论点:随着模型能力趋同,上下文比智能本身更决定 AI 员工的用处。用 John von Neumann 的例子说明没有上下文的聪明人不如有上下文的普通同事
- 《一个PM用Claude CoWork建的自愈型工作系统》(00:51起):本集说上下文是系统最核心的资产,前期用 Whisper 和文档手动狠喂,之后系统自动维护知识文件,晨报还会主动找它不理解的上下文来追问
- 《从技能到循环再到工厂:软件工厂实战路线图》(02:34起):本集把上下文说成运营公司和工作流的说明书、工厂的核心:要自动化一件事先得定义什么是正确的,技能清单就是扫描全部仓库找出所有喂给智能体的上下文
- 《Grok Bot 如何三周引爆全球:从零孵化「有电脑的同事」》(20:03起):本集给新手的建议:像给新同事做入职一样,把 Slack、邮箱、公司记录等工具的访问权给它,然后问它能为你们做什么。
- 《从 100 万到 69 亿美元:Databricks 销售掌门人 Ron 的企业级增长实战》(13:30起):本集反复强调的核心论点:「这其实与模型的强大程度无关,模型已经足够聪明了」,把模型和你的专有数据、业务上下文连起来才是企业 AI 成功的关键——四个 C 的第一个就是上下文。
① 提到它的金句
38 条
Spotify 的 Tobi 杜撰了这个术语叫”上下文工程”,也就是把上下文传递给模型,在正确的时间传递正确的上下文,这至少占性能的一半。
指向原始笔记的链接
Tobi from Spotify coined this term called “context engineering,” which is getting the context to the model, the right context at the right time, is at least half the performance.
—— Dan Shipper · [23:32]
护城河是关于上下文和记忆的。
指向原始笔记的链接
the moat is about context and memory.
—— Brian Balfour · [30:40]
这些模型本身,如果你把它们并排比较,它们产生的结果是一样的,所以真正的决胜点是谁拥有更多的你的上下文,因为是上下文加上模型产生了最好的输出
指向原始笔记的链接
these models by themselves, if you compare them side by side, they generate the same result, and so the actual difference-maker is which one has more of your context, because it’s the context plus the model that produces the best output
—— Brian Balfour · [30:44]
我相信每个方向都有无限。所以这让我对几乎任何人说的话都相当持相反意见。所以如果有人像在 Twitter 上说什么,我有时和自己玩这个游戏,就是在什么语境下那实际上不成立?
指向原始笔记的链接
I believe that there’s infinity in every direction. So that makes me pretty contrary on pretty much everything that anyone says. So if someone says something like on Twitter, I sometimes play this game with myself, which is in what context would that actually not be true?
—— Julie Zhuo · [80:20]
那种上下文无法进入人脑,但它可以进入 AI 的上下文窗口。
指向原始笔记的链接
That context can’t go into a human brain, but it can go into the AI context window.
—— Evan Reiser · [08:04]
当我们试图请求一个 LLM 做这个错误分析时,我们通常发现它只是说追踪看起来很好,因为它没有理解某样东西是否可能是坏的产品味道所需的上下文。
指向原始笔记的链接
What we usually find when we try to ask an LLM to do this error analysis is it just says the trace looks good because it doesn’t have the context needed to understand whether something might be bad product smell or not.
—— Shreya Shankar · [24:09]
再说一次,只要把自己剔除并转移上下文,你就解决了今天 99% 的 AI 问题。
指向原始笔记的链接
Again, just eliminate yourself and move the context, you solve 99% of the problems with AI today.
—— Lazar Jovanovic · [75:21]
这是我认为大多数 PM 投入不足的层,正是这一层让 Claude 从一个通用的聊天机器人变成真正了解你的上下文
指向原始笔记的链接
this is the layer that i think most pms under invest in it’s this layer that makes claude go from being a generic chatbot to actually knowing your context
—— Jyothi Nookula · [06:05]
就像如果我只是让它生成,那将是垃圾。如果我把我自己的上下文给它,像我的策展、我的品味、我的 harness,它就会说,嗯,不要供应商之类的东西,或者它必须有四个声音。
指向原始笔记的链接
Like if I would just have it generate, it will be rubbish. If I had like my own context to it, like my curation, my taste, my harness, it would be say, well, not vendors or kind of like things or like it has to have four voices.
—— Patrick Debois · [12:35]
这是非常经典的苦涩教训药丸,但模型可以推理它们自己的内存和上下文结构,比你可以为它们规定一种构建自己内存的方式要好得多。
指向原始笔记的链接
This is very classically bitter lesson pill, but models can reason about their own memory and context structure much better than you can prescribe for them a way to structure their own memories.
—— Lance Martin · [23:50]
另一个幸运的意外是你获得了未受污染的上下文,所以每个智能体都专精于其工作并自然改进。
指向原始笔记的链接
And other happy accidents are that you get unpolluted context, so each agent becomes specialized in its job and naturally improves.
—— 嘉宾 · [19:00]
你的用户很可能比你更擅长编写上下文。
指向原始笔记的链接
Your user is better at writing context than you are, most likely.
—— 嘉宾 · [19:36]
这里创造的价值太多了,以至于在那个场景下值得 token 最大化。
指向原始笔记的链接
There’s so much value created that it’s worth token maxing in that context.
—— 嘉宾 · [59:58]
文件系统是……可能是目前上下文管理的最先进技术,智能体将利用文件系统来存储它们可能需要参考的信息,比如便签本。
指向原始笔记的链接
The file system is… Probably the state of the art when it comes to context management today, where agents will utilize the file system to store information that they might need to reference, such as a scratch pad.
—— 嘉宾 · [03:29]
对我们来说发生的事情实际上是,一旦我们删除了整个上下文,eval 开始表现得更好,这是反直觉的,但就是这样,是的,那个文件很大,列出的东西不一定有用,或者不应该进入指导文件。
指向原始笔记的链接
And what happened for us is actually like the eval started to perform like much better once we deleted the whole context, which was counter uh intuitive, but it’s just like, yeah, that file was pretty big and was listing stuff that was not like necessarily useful or you know, that should not go into like a steering document.
—— Simon Boudrien · [38:11]
但杠杆不在于权重。而在于你给它什么样的上下文,它有多相关,以及它是否发生在正确的步骤。
指向原始笔记的链接
But the leverage is not in the weights. It’s in what context you give it, how relevant it is, and does it happen at the right step.
—— Garry Tan · [10:15]
模型变得越好,差异化因素就越转移到上下文。
指向原始笔记的链接
The better the models get, the more the differentiator moves to context.
—— Garry Tan · [33:51]
上下文溢出到主上下文,因为上下文意味着 tokens,tokens 意味着钱,而且你有越多的上下文,LLM 在给你答案时就会越困惑。
指向原始笔记的链接
Context spill over into the main context because context means tokens, tokens mean money, and the more context you have, the more confused the LLM is gonna be in giving you an answer.
—— Frank Coyle · [13:11]
生产上下文重要得多,因为去检查仪表盘是一回事。说那个指标看起来不对劲是另一回事。
指向原始笔记的链接
The production context is just way more important because it’s one thing to go check a dashboard. It’s another thing to say that metric smells off.
—— Justin Smith · [10:38]
这导致了一些非常令人惊讶的行为,因为实际上你离能够访问 10,000 个上下文桶只有不到两次 LLM 调用的距离,其中每一个都包含 200,000 个 token。
指向原始笔记的链接
And that leads to some really surprising behaviors because you’re literally no more than two LLM calls away from being able to access 10,000 context buckets each one of which contains 200,000 tokens.
—— Flo Crivello · [32:49]
我认为人们已经了解到,无论 AI 实验室在这些东西周围设置了什么护栏,你都不能依赖模型来阻止自己或理解上下文。
指向原始笔记的链接
And I think what people have learned is that regardless of guardrails that the AI labs are putting around these things, you can’t rely on models to stop themselves or to understand context.
—— Nick Warner · [07:16]
在会议上我们谈论事情,但会议记录在之后才到;它们捕获了摘要。你仍然没有关于为什么做出决策的上下文。
指向原始笔记的链接
In meetings we talk about stuff, but the meeting notes come after; they capture a summary. You still don’t have the context of why the decision was made.
—— Elaina O’Mahoney · [08:06]
主动提示 Claude 说,比如,我不明白你在这里说什么。我们能一起定义它吗?然后我会把它保存到我的上下文中,我就会知道你在说什么。从此往后真的非常犀利,也是我们在播客中还没见过的东西。
指向原始笔记的链接
Actually proactively prompting Claude to say, like, I don’t understand what you’re talking about here. Can we define it together? And then I’ll save it to my context and I’ll know what you’re talking about. Moving forward is really, really sharp and something we haven’t seen on the podcast yet.
—— Claire Vo · [18:14]
在不理解纹理和上下文的情况下创建技术红线的想法,不是我们认为可以强加给客户的界限。
指向原始笔记的链接
creating a technological red line without understanding the texture and context is not a boundary line that we think that we can assert on top of our customer.
—— Nick Noone · [40:02]
所以从上下文的角度来说,这里的愿景是:你应该永远不必操心上下文。
指向原始笔记的链接
And so I would say from a context perspective, the vision here is that you should never have to worry about context.
—— Roshan · [48:14]
随着时间推移,这实际上会让你花钱,因为每一轮都在喂入所有这些来自失败尝试和出错轮次的额外上下文。
指向原始笔记的链接
That is actually going to cost you money over time because every turn is feeding all this extra context from failed attempts, turns gone wrong.
—— Santi Garza · [28:12]
这是 Cursor 内部的一个巨大差异化优势——多仓库云端智能体,因为现实是,除非你有 monorepo 或者在小仓库里工作,你很可能确实希望一个仓库的上下文进入另一个仓库。
指向原始笔记的链接
So this is a huge differentiator within Cursor, multi-repo cloud agents, because the reality is, unless you have a monorepo or unless you’re working in smaller repos, you probably do want context from one repo going into another.
—— Amrita · [30:16]
而且我几乎认为,对这类系统来说,质量和数量是分不开的,因为上下文就是一切。
指向原始笔记的链接
And I almost think you can’t separate quality and quantity when it comes to these systems because context is everything.
—— Sharadh Krishnamurthy · [41:38]
管理上下文的能力——不只是在两小时的会话里,而是跨越数周或数月的工作——我认为这将是关键的,而且需要比今天长得多的上下文推理能力。
指向原始笔记的链接
The ability to manage context, not just through a two-hour session, but across weeks or months of work is something that I think will be critical and will also require much longer context reasoning than we have today.
—— Alexander Whedon · [32:19]
为此,我们真的希望人们觉得输入 token 是免费的——只管为你的问题考虑所需要的上下文就好。
指向原始笔记的链接
To make it, we really want people to feel like the input tokens are free, like just consider the context that you need to for your problem.
—— Alexander Whedon · [45:32]
你仍然在做那件事,感觉也是那样,它同样压在你身上——而不是真正地给同事来一记不看人的传球,然后说:「你可以搞定,这是背景信息,放手去干吧。」
指向原始笔记的链接
You’re still doing the thing and it feels that way and it’s weighing on you in the same way versus truly throwing a no look pass to a colleague and being like, “You got this, here’s the context, go off and run.”
—— Roman Ugarte · [62:59]
如果超过 30 或 40 个工具,我们就无法在不降低上下文质量或系统性能的情况下扩展。
指向原始笔记的链接
We cannot scale it beyond 30 or 40 tools without degrading the context or degrading the performance of the system.
—— Ajay Prakash · [17:23]
差距不再是智能了,是上下文。
指向原始笔记的链接
The gap is not intelligence any longer. It’s context.
—— Brandon Waselnuk · [13:11]
确保这些模型能访问全部上下文,因为它们会找到你的未知的未知。
指向原始笔记的链接
Making sure that these models have access to all of the context because they will find your unknown unknowns.
—— Brandon Waselnuk · [08:22]
那个上下文必须回到大脑里,这样你不仅在这次修好了它,而且在今后所有情况下都修好了它。
指向原始笔记的链接
That context has to go back into the brain so that you not only fix it in this case, but in all future cases going forward.
—— Brian Armstrong · [13:57]
这其实与模型的强大程度无关。Databricks 的关键,甚至很多公司想在 AI 上取得成功的关键,全都在于你数据的上下文。
指向原始笔记的链接
It’s not really about the strength of the model. The key for Databricks and even the key for a lot of these companies to be successful at AI is all about the context of your data.
—— Ron Gabrisko · [19:57]
从那以后,那套东西几乎全被扔出了窗外,现在流行的是提示词工程、上下文工程、循环工程。
指向原始笔记的链接
Almost all of that has gone out the window since prompt engineering and context engineering, loop engineering.
—— Robert Lucero · [25:19]
这是一个演示文稿产品,但它永远做不出惊艳的演示文稿。它缺上下文,缺数据结构。
指向原始笔记的链接
This is a presentations product and it’s never going to be capable of making amazing presentations. It was just missing the context. It was missing the data structure.
—— Keith Peiris · [04:14]
② 出现在这些集
15 集
- 《Brian Balfour:ChatGPT 即将打开新分发渠道,你怎么下注》 — 作为概念
- 《OpenAI Codex 全实操:用智能体舰队打造「10 倍速」工作流》 — 作为概念
- 《DevOps 之父 Patrick Debois:AI 时代组织比技术更难成熟》 — 作为概念
- 《当系统出故障时,让 AI 代替作战室里的 50 个人——Traversal 谈如何造 AI SRE》 — 作为概念
- 《Datadog 4000 人AI赋能实战:删掉上下文反而更好》 — 作为概念
- 《个人 AGI:用 Markdown 组建你自己的劳动力》 — 作为概念
- 《产品里的智能体为什么总“瞎”:Harmonic 的上下文可见性法则》 — 作为概念
- 《从算盘到 AI 原生软件:Pipecat 创始人的八十年计算史漫游》 — 作为概念(提及)
- 《让非工程师也能下指令:Superconductor 的多人智能体协作法》 — 作为概念
- 《当所有人都在用智能体写代码,你靠什么脱颖而出:与 Wes 聊开发者的当下》 — 作为概念(提及)
- 《Lindy 创始人谈 AI 员工的上下文战争:从红黑树到”走去洗车”》 — 作为概念
- 《一个PM用Claude CoWork建的自愈型工作系统》 — 作为概念
- 《从技能到循环再到工厂:软件工厂实战路线图》 — 作为概念
- 《Grok Bot 如何三周引爆全球:从零孵化「有电脑的同事」》 — 作为概念(提及)
- 《从 100 万到 69 亿美元:Databricks 销售掌门人 Ron 的企业级增长实战》 — 作为概念
③ 关联
点进去有真内容 —— 本页主要出口
智能体 · Cursor · Codex · harness · vibe coding · Claude Code · 可观测性 · Claude · 护栏 · Simon Maple
