跨国深谈← 返回←Lucas Kaiser

① 他说过的话

4 条

它比我们团队当年做 Transformers 研究时用的八台 8GPU 机器算力还强。
It has more power than the eight 8GPU machines we used as a team to do the Transformers research.
—— Lucas Kaiser · [03:50]

指向原始笔记的链接

我们的大脑仍然不输给模型，我们也不是通才，而且不存在一个全人类的大脑。
Our brains are still unmatched by the models, and we are not generalists, and there’s not like one big brain of humanity.
—— Lucas Kaiser · [04:34]

指向原始笔记的链接

我从根本上认为，在给定固定数据量的情况下，从数据中学习的最佳方式可能是拥有大量分布式的模型。
I think fundamentally, it might be that given a fixed amount of data, the best way to learn from it is to have a lot of distributed models.
—— Lucas Kaiser · [04:43]

指向原始笔记的链接

所以是的，Transformer 在你喂给它整个互联网时很强大，但我们知道存在一个更优秀的算法，它能从小得多的数据中学习，并在所学的东西上表现得令人惊叹。
So yes, transformers are great when you feed them all of the internet, but we know there is an algorithm that’s even better and it can learn from much smaller data and be amazing at the things it’s learning.
—— Lucas Kaiser · [05:03]

指向原始笔记的链接

② 出现在这些集

1 集

• 《Transformer 不满十岁：AI 集中不是宿命》 — 作为联合主持

③ 他谈到的

点进去有真内容 —— 本页主要出口

Sophia Du · Transformer · Attention is All You Need · LLM · GPU · OpenAI · 开源运动 · 编码智能体 · 分布式模型 · 研究突破

④ 也在聊「创业与行业」的人