跨国深谈← 返回←Chip Huyen

① 他说过的话

4 条

我就会说，好吧，如果改进不多，那你为什么要花那么多时间去辩论那些对你的性能没有多大影响的事情？
I was like, Okay, if it’s not much improvement, then why do you want to spend so much time debating something that doesn’t make that much difference to your performance?
—— Chip Huyen · [06:10]

指向原始笔记的链接

所以我认为采样策略是极其重要的。它可以让你以巨大的方式提升性能，而且非常、非常被低估。
So I think my sampling strategy, I think is something extremely important. It can have you boost a performance in a huge way and very, very underrated.
—— Chip Huyen · [12:40]

指向原始笔记的链接

在某个时刻，我们在互联网数据上实际上已经有点达到极限了。
At some point, we are actually have kind of maxed out on the internet data.
—— Chip Huyen · [14:58]

指向原始笔记的链接

在这个中间过程中，既然每个人都有非常相似的预训练数据，那后训练就是如今他们做出大差异的地方。
where like post-trading, but middle course of this is more of everyone have very similar pre-training data, is that post-training is where they make a big difference nowadays.
—— Chip Huyen · [15:10]

指向原始笔记的链接

② 出现在这些集

1 集

• 《Chip Huyen：别追 AI 新闻了，真正提升 AI 产品的是这些事》 — 作为主持

③ 他谈到的

点进去有真内容 —— 本页主要出口

Lenny · 后训练 · 强化学习 · 评估 · RAG · 数据准备 · 测试时计算 · 系统思维 · 采样策略 · 监督微调

④ 也在聊「智能体」的人