AI 自己改自己：他们说要分清「真进步」和「砸钱堆出来的进步」

关联

人物 Martin Casado · Owen He · Daval Ajada

公司 MakerMaker

概念 RSI · 自催化 · 闭环 · 分子与分母 · 多智能体系统 · 智能体 · 推理 · 奖励黑客 · NanoGPT 基准 · 方差

现在很多创业公司都把 RSI（递归自我改进）挂在嘴边。但 MakerMaker.AI 的两位创始人 Daval Ajada 和 Owen He 认为，其中大部分名不副实。

一位是 MIT Media Lab 强化学习博士，一位曾在 DeepMind 做研究科学家，他们现在做的，是让 AI 系统真正去改进它自己。

【背景】a16z 是硅谷知名风投机构；MakerMaker.AI 是两位嘉宾创立的创业公司；RSI 指递归自我改进（recursive self-improvement），即 AI 系统改进自身的循环过程。

用 AI 造 AI不等于自我改进

Martin Casado 说，他见过太多融资路演，一问都说自己在做 RSI，再细问，原来是用 AI 写 GPU 内核。这算吗？

两位创始人的判断标准很简单：分清谁是改进者，谁是被改进者。

人类用 AI 工具造出更好的 AI，改进的思路仍然来自人脑——他们称之为自催化，历史上一直如此：

没有计算机就造不出更好的芯片，没有蒸汽机就挖不出更多的煤。这不新鲜。

真正的分水岭在于：「Now, for the first time, we could swap the optimizer as the optimizee」——第一次，改进者本身可以成为被改进的对象。

模型这个大脑成了被优化的东西，认知上的进步可以再投资回自己身上。

为什么闭环这么重要？

用控制论的视角看：只要系统有缺口、闭环没合上，人就必须不断介入、不断注入资源。

闭环合上之后，改进的边际收益才可能保持不变甚至变大。

Owen 给了一个直观的数学拆解：能力增长的速度 = 分子除以分母。分子是性能，分母是成本或难度。

对蒸汽机这类技术，分子基本固定，所以增长会趋于平台期。

而如果被改进的系统自己也是改进者，分子就会随能力一起增长——最好的情况是指数级起飞，最普通的情况是持续恒定的改进。

但闭环不等于起飞。这是个非线性控制问题，Casado 提醒：人们一看到循环箭头图就喊起飞，其实非线性系统的行为极难预测。

Owen 的回答很坦率：深度学习本身连学习理论都没有，更别说在它上面再叠五六层的系统。答案只能靠实验测出来。

怎么判断进步是真的？看分母

这里有一个容易自欺的陷阱。模型发布周期确实在缩短，看起来进步飞快——但把融到的资金除进去，进步可能并不成立。

砸更多的钱换来的提升，不是 RSI。

Daval 说得很干脆：如果提升来自不断注入的资源，那就不是 RSI。你得能证明分母没涨。

而且分母要算全：不只是算力和钱，还有人的工时、实验次数、烧掉的脑力。

为此 MakerMaker 内部有个bleederboard（流血榜），和追求分数的排行榜相对，记录每个人做实验烧掉的成本，全员可见。

一个反例是 NanoGPT 基准：重新训练当年的 GPT-2，从数周、多卡、数万美元，降到同一块 GPU、几小时、约 100 美元。

但 Daval 指出，这纯粹是分母的改善——算法技巧变好了，性能上限没变。真正的 RSI 要分子分母同时改善，这才罕见。

而 Daval 认为，他们已经在自己的数据里看到了苗头，而且过去几个月越来越明显。

他们的做法：全栈优化，人也是智能体之一

很多人以为 RSI 系统必须全自动、全数字。Owen 澄清：他们的系统是多智能体的，人类研究员和工程师只是其中一种特殊的智能体。

任何不被优化的环节，日后都会变成瓶颈。

RSI 可以发生在这个技术栈的很多层面：提示词、外挂系统、模型权重，一直到芯片。

MakerMaker 从外挂和权重入手，发现各有收益但都不完整，猜测最终需要多个层面的联合优化。

选题上，他们刻意挑离 AI 本身最近的问题，比如推理加速——推理越快，改进系统本身也越快，形成复利。

这也是当下极有经济价值的难题：全世界都想高效地部署最新开源模型。

有意思的是，连用哪个模型做什么都不再由人来定——「今天其实不是我们在决定优化什么，是我们的智能体在决定。」

甚至那个总指令改进你自己的提示词，本身也在被改进。

别被论文骗了：简单的东西才跑得动

Daval 分享了一个扎心的发现：很多声称实现了 RSI 的论文，放到他们内部基础设施上复现，都不奏效。

这些想法复杂、漂亮、能发好论文，但在真实规模上跑不通。反而是能闭环的简单方案才能扩展。

他们的方法是从第一性原理出发，先建立统一的数学框架，把几百个可能的方案抽象成少数几个通用框架，避免在巨大的搜索空间里迷路。

Owen 借用 Feynman 的话：

科学有两种，一种是标本收集，一种是物理学——没有统一框架的研究只是在收集标本，你不知道整体是否在变好，还是只是局部小聪明。

验证结果同样艰难。

奖励作弊（reward hacking）可能藏在两层、三层智能体之下；大模型本身高度随机，甚至两块同为 B200 的 GPU 行为都略有差异，噪声会传导到顶层。

为此公司专门设了一个岗位，内部戏称方差总督，职责就是摧毁自己人的实验结果、找出哪里错了。

Daval 说，到目前为止没有捷径能替代quality time：跑几百个实验、盯着看、养出直觉。

起飞有上限：物理定律管着

如果分子一直涨、分母一直降，不就是起飞了吗？Daval 认为最终会碰到物理极限：粒子数、光速，相乘就是计算量的上限。

所以增长必然在某处渐近。

Owen 还补充：智能不是一个标量，而是多维向量。有些维度会起飞，有些会平台期。

决定因素是最慢的环节——如果每验证一个想法都要等数月的湿实验和临床试验，药物研发就快不起来；

而代码和数学的验证又快又便宜，会先被加速。

这就好比：就算数字部分加速一百万倍，物理部分占八成时间，整体也快不了多少。

【背景】这里描述的是计算机体系结构中的 Amdahl 定律：系统整体提速受限于未能加速的部分所占的时间比例。

他们内部还有个冷笑话：RSI 的秘密，藏在威斯康星一家浇花园水管的公司里。

意思是：真正难的挑战，可能不在人人扎堆的时髦领域，而在没人用 AI 解决的角落。

本集带走

• 用 AI 造 AI不算 RSI，关键看被改进的系统是否同时是改进者，闭环是否真正合上。
• 判断进步是否真实，必须同时看分子（性能）和分母（成本），只涨分子、靠砸钱堆出来的不是自我改进。
• 闭环不保证起飞——这是经验问题，不是画个循环箭头就能推断的。
• 他们的初步数据显示：性能提升的同时成本在下降，分子分母同时改善的迹象已经出现。
• 智能是多维的，验证快慢决定哪个领域先起飞；物理定律给一切增长设了上限。

说实话，我们连深度学习的学习理论都没有。
I mean, honestly, we don’t even have a learning theory of deep learning.
—— Daval Ajada · [08:59]

我认为我们拥有的最接近理论的东西是缩放定律，而这些是经验性定律。
I think the closest things we have are scaling laws, and these are empirical laws.
—— Daval Ajada · [09:12]

在这个多智能体系统里，人类研究员和工程师其实是这些智能体的一种特例。
In this multi-agent system, human researchers and engineers are actually special case of these agents.
—— Owen He · [09:34]

任何你没有优化的东西，之后都会成为你的瓶颈。
Anything that you don’t optimize will later become your bottleneck.
—— Owen He · [09:56]

我认为对我们来说这很直接：如果你的改进只是靠投入越来越多的资源得来的，那就不是 RSI。
I think for us it’s pretty straightforward. It’s because if you get improvement and they just come at more and more resources being poured in, it’s not RSI.
—— Daval Ajada · [10:48]

我们有个东西叫放血榜。在上面我们记录每个跑实验的人的实验成本。
We have something called a bleederboard. Where we keep track of the cost of experiments of everybody who’s running experiments.
—— Daval Ajada · [11:53]

很多声称做到 RSI 的论文，当我们在我们的内部基础设施里测试时，我们发现它们不管用。
A lot of the papers that claim to do RSI, when we test it in our internal infra, we find that they don’t work.
—— Daval Ajada · [14:11]

而我们发现，那个能闭合回路的更简单的东西，才是能扩展的东西。
And what we found is that the simpler thing that closes the loop is the thing that scales.
—— Daval Ajada · [14:37]

但如果你不把它放进一个统一的系统里，你就不知道整体系统是不是真的在改进，还是你只是在局部应用一个正在变好的想法。
if you don’t put into a unified system, you don’t know if the overall system is actually improving or you’re just locally applying an idea that’s getting better.
—— Owen He · [16:44]

说实话，今天真正决定优化什么的并不是我们，是我们的智能体。
today it’s not really us who are deciding what to optimize. It’s our agent.
—— Owen He · [20:48]

然后我们看它，我们试着复现它，然后我们意识到，哦，那是噪声，是挑数据。
We look at it, we try to replicate it, and we realize, oh, it’s noise, you know, it’s cherry picking.
—— Daval Ajada · [25:51]

RSI 的秘密藏在威斯康星州某家浇花水管公司的某个地方。
The secret to RSI is somewhere in a garden hose company in Wisconsin.
—— Daval Ajada · [30:21]