Justin Johnson
① 他说过的话
10 条
所以所有这些都是真的不像是自然地从语言建模范式中产生出来的能力。
指向原始笔记的链接
So all of these are capabilities that really don’t feel like they’re falling naturally out of the language modeling paradigm.
—— Justin Johnson · [01:54]
我想了解关于世界的一些事情。而且即使我可以生成任何种类或任何结构的视频，我也没有学到我想知道的关于世界的事情。
指向原始笔记的链接
I wanted to learn something about the world. And even if I can generate video of any kind or of any structure, I didn’t learn what I wanted about the world.
—— Justin Johnson · [11:12]
并不清楚的是,用新架构和新范式预训练一个新模型的第一个周期,第一个周期就奏效是疯狂的。
指向原始笔记的链接
It’s not clear that the first cycle of pre-training a new model with a new architecture and a new paradigm, the first cycle of that working is insane.
—— Justin Johnson · [22:32]
但一切都有瓶颈,我认为持续扩展这个东西的主要瓶颈实际上是训练算力。
指向原始笔记的链接
But everything has a bottleneck, and I think the main bottleneck on continuing to scale this thing is actually training compute.
—— Justin Johnson · [23:04]
这里的核心论点是，存在一种新的、我们可以构建的不同类型的横向模型，叫做世界模型。
指向原始笔记的链接
The central thesis here is that there’s a new, there’s a different kind of horizontal model that we can build called a world model.
—— Justin Johnson · [03:09]
我们的论点是，存在另一类模型叫做世界模型，它应该基于视觉理解、基于物理理解，可以用来生成、模拟、重建世界。
指向原始笔记的链接
And our thesis is that there exists another category of model called world models that should be based in visual understanding, should be based in physical understanding, that can be used to generate, simulate, reconstruct worlds.
—— Justin Johnson · [03:23]
所以这里的理念是，即使你去到非常长的生成，它也不是一台老虎机。
指向原始笔记的链接
So the idea here is that even as you go to really long generations, it’s not a slot machine.
—— Justin Johnson · [05:01]
我们从来不想构建这些生成式的老虎机——你只是拉一下那个杆，然后祈祷生成出一个好结果，或者感觉那个生成物不是你的、不是你控制的、也不知道自己会得到什么。
指向原始笔记的链接
We never wanted to be building these generative slot machines where you just like pull the thing and hope you get out a good generation or you don’t feel like that generation was yours or that you controlled it or that you knew what you were getting out.
—— Justin Johnson · [17:42]
比如无论是 3D 控制，还是文本控制，让你感觉自己是这个过程中的导演，引导这个模型、精确决定它输出什么，而不是模型吐出一个东西，也许我事后把它拼接起来。
指向原始笔记的链接
Like whether it’s 3D control, whether it’s text control, that you feel like you’re a director in the thing guiding this model and deciding exactly what it outputs rather than just like the model spits something out and maybe I can stitch it together after the fact.
—— Justin Johnson · [17:56]
所以任何大致属于牛顿力学但表现不对的东西，可能离一次快速的 SFT 就差不远了。
指向原始笔记的链接
So anything that’s like roughly Newtonian that doesn’t work out is probably just a quick SFT away.
—— Justin Johnson · [20:53]
② 出现在这些集
3 集
- 《Justin Johnson：世界模型不只有一种，而语言模型做不到这些》 — 作为联合主持
- 《Atlas:让 AI 预测世界的下一个视角》 — 作为主持
- 《当AI学会理解世界：World Labs 联合创始人谈 Atlas 与世界模型》 — 作为主持
③ 他谈到的
点进去有真内容 —— 本页主要出口
World Labs · 世界模型 · Marble · 智能体 · Atlas · Sam Charrington · Martin Casado · 模拟 · 高斯溅射 · 空间智能