跨国深谈← 返回←GPU 之后是什么：内存短缺、光子学与摩尔定律的尽头

GPU 之后是什么：内存短缺、光子学与摩尔定律的尽头

关联

人物 Steven · Adam

公司 iMac

概念 GPU · 推理 · 光子学 · 记忆 · 摩尔定律 · 大语言模型 · 扩展假设

这一集是当天的收尾访谈，聊的是「GPU 之后会是什么」。主角两位：

Steven 来自 imec（一家总部在比利时的全球芯片研发机构，世界各大芯片厂商都会先到他们那里设计下一代芯片，再拿回去商业化，据说今天世界上几乎没有一颗芯片没被它触及过）；

Adam 来自 Strike，是从投资人角度看芯片行业的人。

摩尔定律到头了，硬件必须更有创造性。 Steven 开门见山：

过去几十年芯片变快靠的是「缩放」——把晶体管做得越来越小，如今晶体管深度已经只有约一纳米（比头发细得多），意味着「我们已经到了物理学上还能做的事情的尽头」。

接下来要让芯片继续变快，硬件需要比过去十到二十年更有创造性 。他同时押注光子学：

无论 AI 最终走哪条软件路线，「尽快移动海量数据」永远是刚需——就像人脑靠难以置信的 3D 结构做的那样——而光子学将成为实现未来芯片的关键技术。

推理侧的四大瓶颈：电力、内存、散热、数据传输。 Adam 把行业梳理为：GPU 擅长训练，瓶颈现在卡在推理层，具体在四个环节 。

其中内存是「今天已经坏掉的头号组件」：

世界上只有美光、SK 海力士、三星三家生产内存（占 95% 市场），库存被超大规模云厂商整包拿走，今年仅芯片的内存部分价格就涨了 700%。

散热的方向是把带走热量的液体越带越离 GPU 近；电力则是人人都知道的硬约束。

他还判断光子学之所以可能赢，是因为它一个技术同时打了三个瓶颈——传输更快省能源、用光传输省散热、直击数据传输本身。

模型不会无限变大。 最反直觉的一点来自 Steven：

开源模型参数已经超过人脑的连接数，但驱动它的芯片能效比人脑差了约一百万倍——所以从 1750 亿参数涨到约 10 万亿参数的「越大越好」路线会停，很多公司正在放弃这种扩展假设。

他还反驳了「价值金字塔已翻转」的说法：不是硬件翻了天，而是当前软件仍停留在「暴力破解」式的笨办法上，价值自然有限；

等出现与硬件结合更紧的新一代软件演进，软件价值会大幅回来。

收尾两记观点。 Steven 的 hottest take：五到十年后我们会嘲笑今天的 AI 多么老派——就像当年笑拨号上网的哔哔声，大语言模型就是 AI 界的拨号上网。

Adam 的建议：多招、多投那些「欧洲学术技术背景 + 美国商业嗅觉」双重底子的人，他见过最好的创始人多有这种双重性。

本集带走

• AI 硬件的瓶颈已从训练转移到推理层，具体卡在四点：电力、内存带宽、散热、数据传输——看芯片公司就照这四条找。
• 内存是最紧的一环：全球只有三家供应商，价格今年涨了 700%，短期难解。
• 光子学是最值得押注的方向：一个技术同时缓解能源、散热、传输三大瓶颈；未来五年光学元件会从集群间逐步贴近 GPU，走向共封装光学。
• 「模型越大越好」的路线会停：参数量已超人脑、能效却差一百万倍，行业正在转向新范式，硬件也会随之多样化——不再只有 GPU。

那意味着我们已经到了物理学上还能做的事情的尽头。
That means that we’re at the end of physics of what we can still do.
—— Steven · [02:39]

内存绝对是今天已经坏掉的头号组件。
Memory is absolutely the number one component that is already broken today.
—— Steven · [07:52]

世界上只有三家公司生产内存，占 95% 的市场——美光、SK 海力士和三星。
There’s only three companies in the world that produce memory, which is 95% of the market, Micron, SK Hynix, and Samsung.
—— Adam · [05:08]

所以你看到今年仅芯片的内存部分价格就上涨了 700%。
So you’ve seen prices rise by 700% this year just for the memory part of the chip.
—— Adam · [05:27]

但另一方面，我们需要用来驱动那个 K3 模型的芯片，在能效上大约比人脑低了一百万倍左右。
But on the other hand, that K3 chip that we need to fuel that K3 model is about a million times more or less energy efficient than what the human brain is.
—— Steven · [08:12]

目前它位于集群之间，我们用的是线性可插拔光模块，但我认为未来五年这些光学元件会越来越贴近 GPU，走向共封装光学的状态。
At the moment it’s between the clusters and we’re using linear pluggable optics, but I think in the next five years we will see these optical components get closer and closer to the actual GPU and we will go towards a state of co-packaged optics.
—— Adam · [09:48]

光子学——尤其在未来几年——会成为实现未来芯片的关键技术。
And so photonics will play, I think for me, especially in the next years, it’s going to be the killer technology to enable the chips of the future.
—— Steven · [10:55]

我认为五到十年之后，我们会嘲笑今天的 AI 是多么老派。
I think we’re gonna, five to 10 years from now, we’re gonna laugh at how old-fashioned AI was today.
—— Steven · [11:44]

我认为十年后，我们会以完全相同的方式谈论大语言模型——它很大程度上就是一种暴力穷举的方法。
I think in 10 years from now, we’re going to talk about large language models, which are very much a brute force approach in exactly the same way.
—— Steven · [12:22]

训练侧和软件侧在不断变好，但物理这一侧是很难一夜之间变好的东西。
The training side and the software side of things is continually getting better, but the physical side is the thing that’s harder to get better overnight.
—— Adam · [05:39]