跨国深谈← 返回←Justin Johnson

① 他说过的话

4 条

所以所有这些都是真的不像是自然地从语言建模范式中产生出来的能力。
So all of these are capabilities that really don’t feel like they’re falling naturally out of the language modeling paradigm.
—— Justin Johnson · [01:54]

指向原始笔记的链接

我想了解关于世界的一些事情。而且即使我可以生成任何种类或任何结构的视频，我也没有学到我想知道的关于世界的事情。
I wanted to learn something about the world. And even if I can generate video of any kind or of any structure, I didn’t learn what I wanted about the world.
—— Justin Johnson · [11:12]

指向原始笔记的链接

并不清楚的是,用新架构和新范式预训练一个新模型的第一个周期,第一个周期就奏效是疯狂的。
It’s not clear that the first cycle of pre-training a new model with a new architecture and a new paradigm, the first cycle of that working is insane.
—— Justin Johnson · [22:32]

指向原始笔记的链接

但一切都有瓶颈,我认为持续扩展这个东西的主要瓶颈实际上是训练算力。
But everything has a bottleneck, and I think the main bottleneck on continuing to scale this thing is actually training compute.
—— Justin Johnson · [23:04]

指向原始笔记的链接

② 出现在这些集

2 集

• 《Justin Johnson：世界模型不只有一种，而语言模型做不到这些》 — 作为联合主持
• 《Atlas:让 AI 预测世界的下一个视角》 — 作为主持

③ 他谈到的

点进去有真内容 —— 本页主要出口

World Labs · 世界模型 · Marble · Sam Charrington · Martin Casado · 高斯溅射 · Atlas · 智能体 · 空间智能 · PoMDPs

④ 也在聊「创业与行业」的人