集里怎么说它

• 《「最纯 AGI 押注」爆仓始末与 AI 时代财富大洗牌》(16:27起):本集反复讨论了大型科技公司斥巨资大建算力（大型计算机/数据中心）的狂热，以及如何把 GPU 跑通模型后对产出的 token 加价售卖来赚钱的投资逻辑。
• 《让 AI 像人一样犯错：Simile 创始人的模拟人类生意》(12:53起):本集说算力是模拟的重要组成部分，最初的很多计算用于创造技术突破，探索不同训练方式和数据集，且建模确实需要算力，是 Simile 需要更多资金的原因之一
• 《超级智能为什么危险：Ryan Greenblatt 的推演与解法》(25:32起):本集把它说成 AI 进步的核心驱动力，Plan A 的起点就是’摸清所有算力在哪里’，限制算力流动就能限制 AI 进步
• 《BlackRock Tony Kim：一万亿美元的资本支出，只为把数据移动几毫米》(00:11起):本集核心主线：算力的首要地位——AI 之前算力是「事后才考虑的东西」，AI 之后基础算力层涨了约一万倍（一万美元服务器变一百万美元服务器），市值系统性从软件流向算力硬件。
• 《OpenAI 总裁 Greg Brockman：我们已进入 AGI 时代，而真正的瓶颈不是模型》(00:12起):Greg 认为接下来最难的不是模型能力而是算力:「我们没有足够的算力来服务所有需求」;算力进步是技术进步自然产生的浪潮。

① 提到它的金句

22 条

所以在推理计算方面，这基本上比当今最前沿的模型小了一百多倍。
So that’s like more than a hundred X smaller in terms of inference compute than basically the absolute frontier of models today.
—— Mustafa Suleyman · [10:28]

指向原始笔记的链接

现在，我主要受限于注意力。与 tokens 或计算不同，我不能简单地增加更多的注意力。
Now, I’m primarily constrained by attention. And unlike tokens or compute, I can’t simply add more of it.
—— 嘉宾 · [21:19]

指向原始笔记的链接

今天的算力需求远远超过算力供给。所以我们能把任何东西上线，都会立即被消耗掉。
Demand far outstrips compute supply today. So anything we can bring online, we consume immediately.
—— Sachin Katti · [00:07]

指向原始笔记的链接

我们把算力翻了三倍，收入也翻了三倍。
We tripled compute and we tripled revenue.
—— Sachin Katti · [15:53]

指向原始笔记的链接

现在，AI 本身可以做 AI 研究了。我们能做的实验数量爆炸式增长。因此，研究所需的算力也爆炸式增长。
Now, AI itself can do AI research. The number of experiments we can run explodes. And therefore, the amount of compute you need for research also explodes.
—— Sachin Katti · [16:50]

指向原始笔记的链接

任何时候我们觉得自己已经有足够的算力，可以慢下来了，总是会给我们带来负面的惊喜，比如，糟了，我们不该放慢速度的，对吧？
Any time we have thought we have enough compute, we can slow down. always negatively surprise us, like, oh, shit, we should not have slowed down, right?
—— Sachin Katti · [17:24]

指向原始笔记的链接

为了极其明确一点,AI 数据中心算力收入的绝大部分取决于两家不盈利、不可持续的 AI 公司是否有能力继续每年筹集数百亿或数千亿美元。
to be abundantly clear, the vast majority of AI data center compute revenue is contingent on the continued ability of two unprofitable, unsustainable AI companies to raise tens or hundreds of billions of dollars a year.
—— Alex · [35:38]

指向原始笔记的链接

我们正在耗尽数据来训练大模型，但我们没有在使用旧模型的权重。所以为什么不使用权重，所有的知识，人们投入的所有算力，对吧？
We’re running out of data to train the large models, but we’re not using the weights of older models. So why not using the weights, all the knowledge, all the compute that people invested, right?
—— Damian Borth · [30:39]

指向原始笔记的链接

我们可能比以往任何时候都在从经验学习上花费最多的算力,但强化学习并不是从经验学习的终点。
We probably are spending the most compute than ever on learning from experience, but reinforcement learning is not the end of learning from experience.
—— Jerry Tworek · [26:22]

指向原始笔记的链接

我们刚刚向 FCC 申请了一个由 88,000 个这样的航天器组成的星座。所以这意味着大约 20 吉瓦的新计算能力。
We’ve just filed with the FCC for a constellation of 88,000 of those. So that means on the order of 20 gigawatts of new compute capacity.
—— Philip Johnston · [19:25]

指向原始笔记的链接

大多数做沙箱的人都在计算上赚钱。坦白说，在我看来这是个愚蠢的主意。
most sandbox people make money on compute. Frankly, that’s a dumb idea in my opinion.
—— Jerry Murdock · [27:19]

指向原始笔记的链接

所以为了计算内容拥有者，为了计算内容拥有者得到一美元，如果我决定进行完整的 Shapley 值计算，那可能要花费好几美元。
So to compute a content owner, to compute that a content owner gets a dollar, if I decide to do the full Shapley value computation, that might take several dollars.
—— Parag · [44:22]

指向原始笔记的链接

所以我们要看到的关键点是：智能体不是计算，它们是数据。
And so the key thing about agents that we see is that agents are not compute, they are data.
—— James · [05:52]

指向原始笔记的链接

当你把智能体看作逻辑实体时，你会意识到即使它们不在运行也存在，这就是为什么把它们建模为计算是完全错的，因为它们并不活在计算里。
And so when you think of agents as like logical entities, you realize that they exist even when they’re not running, which is why if you model them as compute, it’s just wrong because they don’t live in the compute.
—— James · [07:03]

指向原始笔记的链接

模型、计算，一切都是相对短暂的，几乎零切换成本。
Models, compute, everything is relatively ephemeral, almost zero switching costs.
—— Ofir Ehrlich · [03:24]

指向原始笔记的链接

所以那个所谓的计算基础层，涨了，我不知道，一万倍。
So that, what was called the base layer of compute, went up, I don’t know, 10,000x.
—— Tony Kim · [19:55]

指向原始笔记的链接

而智能换算力基本上就等于收入。
And intelligence for compute equals basically revenue.
—— Tony Kim · [25:53]

指向原始笔记的链接

对算力的这种强烈需求至少还将持续12个月。
This intense demand for compute is going to continue for at least another 12 months.
—— 嘉宾 · [00:00]

指向原始笔记的链接

一个每年靠卖算力赚 1200 亿美元的人，决定收购一家能帮着让算力更具成本效益的公司，这样他就能卖出更多算力。
Man making $120 billion a year selling compute decides to buy a company that help makes compute more cost-effective so he can sell more compute.
—— 嘉宾 · [10:44]

指向原始笔记的链接

但一切都有瓶颈,我认为持续扩展这个东西的主要瓶颈实际上是训练算力。
But everything has a bottleneck, and I think the main bottleneck on continuing to scale this thing is actually training compute.
—— Justin Johnson · [23:04]

指向原始笔记的链接

盯着服务器看——那跟看着油漆干差不多刺激——然后说，天哪，我们解决了计算领域 75 年里没人解决过的问题。
Stared at a server, which is about as exciting as looking at paint dry and said, holy crap, we’ve solved this problem that nobody in 75 years of compute had ever solved.
—— Andrew Feldman · [12:39]

指向原始笔记的链接

如果每个人都想使用它，推理将会压垮计算基础设施。
If everybody wants to use it, inference is going to crush the compute infrastructure.
—— Andrew Feldman · [31:30]

指向原始笔记的链接

② 出现在这些集

5 集

• 《「最纯 AGI 押注」爆仓始末与 AI 时代财富大洗牌》 — 作为概念
• 《让 AI 像人一样犯错：Simile 创始人的模拟人类生意》 — 作为概念(提及)
• 《超级智能为什么危险：Ryan Greenblatt 的推演与解法》 — 作为概念
• 《BlackRock Tony Kim：一万亿美元的资本支出，只为把数据移动几毫米》 — 作为概念
• 《OpenAI 总裁 Greg Brockman：我们已进入 AGI 时代，而真正的瓶颈不是模型》 — 作为概念

③ 关联

点进去有真内容 —— 本页主要出口

OpenAI · 智能体 · Anthropic · 推理 · 数据中心 · Meta · 记忆 · 对齐 · 数据飞轮 · Reid Alberghati