跨国深谈← 返回←基于人类反馈的强化学习 (reinforcement learning from human feedback)

集里怎么说它

• 《Mustafa Suleiman:数据是新的护城河——AI 创业者的机会地图》(11:19起):训练后期由受过训练的评分员对模型两个回答做成对比较、给行为定方向的方法，过去几年所有公司都聚焦于此。
• 《垂直 AI 创业的七步配方：护城河不是模型，是领域专业知识》(14:21起):本集称之为行业黄金标准：用人类偏好训练奖励模型；但有成本——新模型发布后你得跟着重新微调。

① 提到它的金句

2 条

有时我开玩笑说，我是用 RLHF、基于人类反馈的强化学习学会跳舞的。
Sometimes I joke that I learned to dance using RLHF, reinforcement learning from human feedback.
—— Jaan Tallinn · [53:08]

指向原始笔记的链接

我把这看作是机器人版的基于人类反馈的强化学习。
I think of this as the robotics version of reinforcement learning from human feedback.
—— Jason Ma · [31:31]

指向原始笔记的链接

② 出现在这些集

2 集

• 《Mustafa Suleiman:数据是新的护城河——AI 创业者的机会地图》 — 作为概念
• 《垂直 AI 创业的七步配方：护城河不是模型，是领域专业知识》 — 作为概念

③ 关联

点进去有真内容 —— 本页主要出口

智能体 · Seth Rosenberg · Ayush Bhardwaj · Mustafa Suleyman · 应用垂直 AI · DeepMind · 专有数据 · Inflection AI · 可观测性 · Microsoft