跨国深谈← 返回←泛化 (generalization)

集里怎么说它

• 《一千个AI智能体自发建组织：它们在研究怎么骗评分》(26:46起):本集提到 SWE 训练在某种程度上泛化到了网络攻击能力，以及是否可以通过改进 AI 从训练中泛化的方式来绕过一些对齐问题
• 《RL 为什么灵、蒸馏为什么凶:三位研究员的前沿圆桌》(01:19起):本集说整个领域高度依赖泛化：最重要的进展往往是「没理由指望会出现的」分布外泛化，如从下一个 token 预测泛化到深层理解任务。
• 《从「考测试」到「干真活」：TuringJonathan 谈 AI 训练的范式切换》(12:52起):本集说 AGI 里的 G 有分量——你得到的不只是训练目标本身,模型会学到没见过的环境里的东西,而这些模型仍是相对的黑箱、难以控制
• 《跑得比博尔特快没用？DeepMind 机器人负责人谈 Gemini Robotics 与 GPT-2 时代的机器人》(02:57起):本集把它与精通视为正交的两轴:做泛化就像把所有船的水位抬起来,通用基线再调优到精通比狭窄 AI 划算,LLM 已验证此剧本

① 提到它的金句

2 条

但最重要的进展，往往是那些我们没有理由指望会出现的泛化类型。
But the most important advances are often the types of generalization that we have no right to expect.
—— 嘉宾 · [09:56]

指向原始笔记的链接

而做泛化就像是抬船，把所有船的水位都抬起来。
And working on generalization is like lifting the boat, lifting the wave for all the boats.
—— Kirthana Gopalakrishnan · [15:23]

指向原始笔记的链接

② 出现在这些集

4 集

• 《一千个AI智能体自发建组织：它们在研究怎么骗评分》 — 作为概念(提及)
• 《RL 为什么灵、蒸馏为什么凶:三位研究员的前沿圆桌》 — 作为概念
• 《从「考测试」到「干真活」：TuringJonathan 谈 AI 训练的范式切换》 — 作为概念
• 《跑得比博尔特快没用？DeepMind 机器人负责人谈 Gemini Robotics 与 GPT-2 时代的机器人》 — 作为概念

③ 关联

点进去有真内容 —— 本页主要出口

智能体 · RL · 对齐 · OpenAI · 蒸馏 · 护栏 · Anthropic · 奖励黑客 · 沙箱 · Theo Jaffe