上下文学习 (in-context learning)
集里怎么说它
- 《Rich Sutton：LLM 不是全部智能，真正的AI必须持续学习》(22:59起):本集说当前 LLM 助手做了一些上下文学习，可以通过给更多上下文改变模型状态，但模型本身的权重并没有在学习
- 《编码智能体开始接管机器人：LLM 控制物理世界的前沿》(06:26起):Francois 的学习层级框架中最便宜的一档：把状态-动作-结果元组附加进上下文，每样本提升大、成本极低，但约 20-40 例后饱和、超上下文长度反而变差。
- 《AI 能解千年数学难题了，但它还不会「想出新点子」》(61:41起):本集用冷门桌游测同一 AI 实例的即时学习：开箱即得分后多次游玩保持平坦，提升只发生在模型代际之间；上下文内学习是强大杠杆，但不如更新权重。
- 《AI 的「决定」可能就是一次掷硬币：对话 Goodfire 的 Eric Bigelow》(01:53起):Eric 理解大模型的核心框架:不只是少样本示例,而是模型每读一个新词内部表征都在变化,推理就是模型从自己生成的文字中做上下文学习;他判断个性化将靠记忆与上下文而非微调实现。
① 提到它的金句
3 条
我思考推理的方式是：模型基本上是在从它们自己已经生成的内容中进行上下文学习。
指向原始笔记的链接
And the way I think about reasoning is that models are basically in-context learning from things that they have generated already.
—— 嘉宾 · [12:25]
我认为上下文学习所涵盖的，是模型为调整自身行为所做的一切，而这不是发生在权重学习内部的。
指向原始笔记的链接
What I think of in-context learning as capturing is everything the model is doing to adapt its behavior that’s not happening within weights learning.
—— 嘉宾 · [20:30]
我觉得上下文学习也是这样：如果你看聚合结果、跨一个大数据集看，事情可能看起来很平滑，也许是具有欺骗性的平滑，但实际上像单个故事这样的个别案例有着非常非线性的动态。
指向原始笔记的链接
And I think in-context learning is like that too, where if you look at aggregate, if you look across a large data set, things might look smooth, maybe deceptively so, but actually individual cases like an individual story have these really non-linear dynamics.
—— 嘉宾 · [25:31]
② 出现在这些集
4 集
- 《Rich Sutton：LLM 不是全部智能，真正的AI必须持续学习》 — 作为概念(提及)
- 《编码智能体开始接管机器人：LLM 控制物理世界的前沿》 — 作为概念
- 《AI 能解千年数学难题了，但它还不会「想出新点子」》 — 作为概念
- 《AI 的「决定」可能就是一次掷硬币：对话 Goodfire 的 Eric Bigelow》 — 作为概念
③ 关联
点进去有真内容 —— 本页主要出口
苦涩的教训 · 思维链 · 智能体 · harness · Rich Sutton · Han Mei · Greg Burnham · Goodfire · Oak Lab · Francois