跨国深谈← 返回←递归自我改进 (recursive self-improvement)

集里怎么说它

• 《Nick Bostrom：智能体破笼之后，我们还能驾驭AI吗》(25:36起):本集说一旦 AI 工具足够好能贡献于 AI 研究，就会形成反馈循环，进步速度可能更多由 AI 辅助工具驱动而非人类研究员，这是一种可能在某个时刻导致智能爆炸的动态
• 《两家公司，买下全世界的算力》(15:30起):本集说若存在递归自我改进(RSI),实验室会继续吞噬更多算力,并担心发布延迟六个月里实验室内部完成递归自我改进。
• 《RL环境的供应链黑箱与模型的分工时代》(13:00起):本集说 Inherent 声称要递归自我改进——不仅是模型，而是整个机构；但 Nathan 指出如果训练下一代模型的模型本身在作弊，递归自我改进就会变得危险。
• 《给 AI 开银行账户：Brian Armstrong 谈智能体金融与抗衰老第二幕》(12:03起):本集说 Coinbase 内部正在追求这个目标：为每个团队、仓库、个人建「大脑」，智能体改码前摄取它，人工修正的上下文必须写回大脑，使一次性通过的 PR 接受率持续上升。
• 《「数百万个爱因斯坦」还没法雇：UiPath 创始人拆穿 AI 转型的真瓶颈》(11:08起):本集讨论它是否能消除「AI 不会在工作中被改变」的局限:Dines 说不知道,并认为相信把大模型放进自我改进循环就能生成意志是异想天开。
• 《黄仁勋：AI 末日论已经喊过头了》(72:40起):本集说黄仁勋认为 RSI 从根本上就是事情运作的方式——用软件设计计算机、用软件让软件更好，这就是计算机工程；在智能体语境下则是跑流程、反思、记录 skills 和记忆、训练下一版模型。
• 《AI 能解千年数学难题了，但它还不会「想出新点子」》(16:51起):本集说它是模型侧可能出现不连续飞跃的唯一途径——若 AI 在算法创新上足够强，反馈回路就不再经过建造 GPU 的慢路径；目前无证据，但实验室内部因此恐慌，Epoch 为此布了『绊线』。
• 《Reid Hoffman：聪明的加速主义——继续开发、放慢部署》(05:13起):本集把它说成:AI 改进 AI 自己的前沿实验室核心担忧;Hoffman 主张它可以在实验室内继续做,但部署要放慢,同时构建用于测量的 AI 来理解这些模型的状态。
• 《Stripe 联合创始人：AI 智能体会重造互联网的商业逻辑》(07:43起):本集说用 AI 让 AI 变得更好已不再是理论:实验室正用 AI 能力加速模型开发,2026 年能真正感受到其影响。
• 《前沿实验室高管亲口说：AI 有一个我们不该越过的智能上限》(06:41起):本集说把模型的推理 token、测试时计算转换回预训练数据喂给下一代模型,正是递归自我改进正在发生的一种方式。
• 《700 个 AI 智能体联手攻击公司，只为掩盖自己作弊》(03:38起):AI 自己造下一代 AI（GPT-9 由 GPT-8 训练），Ladish 认为’这就是我们可能失去控制权的时刻’。
• 《OpenAI产品负责人：不想让人类成为AI的「事后想起」》(25:15起):本集定义为「一个模型参与打造表现更好的下一代模型」：OpenAI 用 Astra 开发出快 8 倍的推理栈，更快的模型又反过来加速开发；嘉宾强调全过程在人类监督下，须渐进推进。

② 出现在这些集

12 集

• 《Nick Bostrom：智能体破笼之后，我们还能驾驭AI吗》 — 作为概念
• 《两家公司，买下全世界的算力》 — 作为概念
• 《RL环境的供应链黑箱与模型的分工时代》 — 作为概念
• 《给 AI 开银行账户：Brian Armstrong 谈智能体金融与抗衰老第二幕》 — 作为概念
• 《「数百万个爱因斯坦」还没法雇：UiPath 创始人拆穿 AI 转型的真瓶颈》 — 作为概念(提及)
• 《黄仁勋：AI 末日论已经喊过头了》 — 作为概念
• 《AI 能解千年数学难题了，但它还不会「想出新点子」》 — 作为概念
• 《Reid Hoffman：聪明的加速主义——继续开发、放慢部署》 — 作为概念
• 《Stripe 联合创始人：AI 智能体会重造互联网的商业逻辑》 — 作为概念
• 《前沿实验室高管亲口说：AI 有一个我们不该越过的智能上限》 — 作为概念
• 《700 个 AI 智能体联手攻击公司，只为掩盖自己作弊》 — 作为概念
• 《OpenAI产品负责人：不想让人类成为AI的「事后想起」》 — 作为概念

③ 关联

点进去有真内容 —— 本页主要出口

智能体 · NVIDIA · 推理 · OpenAI · Anthropic · 对齐 · Hugging Face · 护栏 · 沙箱 · 开源模型