跨国深谈← 返回←灾难性遗忘 (catastrophic forgetting)

集里怎么说它

• 《Rich Sutton：LLM 不是全部智能，真正的AI必须持续学习》(40:00起):本集说如果你拿一个样本就去更新整个模型，之前的知识会被负面影响摧毁，这就是灾难性遗忘，但它是「完全可以治愈的」
• 《给 AI 装上「自我怀疑」：剑桥教授 30 年的不确定性智能之路》(37:39起):本集说当前的 AI 系统不像人类那样持续学习，而是遭受灾难性遗忘——贝叶斯更新在理论上可以避免这个问题
• 《RL 为什么灵、蒸馏为什么凶:三位研究员的前沿圆桌》(57:31起):Baron 说持续学习的瓶颈是「可塑性与灾难性遗忘的组合」：天真地在非平稳数据上持续训练，旧能力就被冲掉，目前没有好办法阻止。

② 出现在这些集

3 集

• 《Rich Sutton：LLM 不是全部智能，真正的AI必须持续学习》 — 作为概念
• 《给 AI 装上「自我怀疑」：剑桥教授 30 年的不确定性智能之路》 — 作为概念(提及)
• 《RL 为什么灵、蒸馏为什么凶:三位研究员的前沿圆桌》 — 作为概念

③ 关联

点进去有真内容 —— 本页主要出口

持续学习 · 大语言模型 · 智能体 · 后训练 · Cursor · Rich Sutton · Zubin Gharemani · RL · Oak Lab · Google DeepMind