合成
合成数据 (synthetic data)
概念
本站收录 10 集 · 2 条金句 · 关联 10 个
集里怎么说它
- 《Handshake：靠学生网络四个月做到五千万ARR》(62:00起):本集说合成数据在可验证领域（如数学）有角色，但从实验室听到的共识是合成数据不会占据主导地位
- 《10亿收入不到100人:数据公司 Surge AI 如何逆行塑造 AI 未来》(14:47起):本集在讨论后训练数据取舍时被提及,指模型训练时混合使用的数据类型之一,是前沿实验室面临的无限选择之一。
- 《Mercor CPO:开源模型蚕食不了数据生意》(00:40起):本集提到合成数据用于自动质量控制和改进交付,是项目成本中 LLM 支出的一部分。
- 《应用公司如何低成本建自己的AI研究实验室：Harvey 的实战手册》(03:36起):本集说因客户数据受特权保护不能训练，今年跑通的办法是领域专家 vibe code 式引导合成数据生成，不够好但是入门方式
- 《RL 环境:让模型学会用你电脑上所有工具的数据生意》(16:38起):本集说 RLVR 本质上就是押注合成数据——展开合成的模型轨迹并打分让模型学习;模型深度参与填充环境,但衡量模型前沿之外的东西仍离不开人类。
- 《Rich Sutton：LLM 不是全部智能，真正的AI必须持续学习》(11:03起):本集说基础模型实验室做合成数据生成是「大错误」，因为合成数据本质上还是由人类专家决定什么是好的数据，智能体并没有从自身经验中生成经验
- 《数据成了企业唯一的护城河：AI时代的数据基建怎么做》(07:16起):本集说大部分公开数据集看起来太像合成数据，不能反映真实公司的运作方式，很难用来构建真正工作的应用
- 《Jev 背后的人:Diogo 谈为什么 AI 应该像数据库而不是同事》(22:48起):TypeSafe 全部训练数据的来源:不用用户数据(真实世界偏差大、过拟合到幂律),由有品味、用心的人审视问题并重新生成
- 《每家公司都该有自己的AI模型吗？》(19:22起):本集提到可用合成数据生成技术补充训练数据,如把文档反向翻译成问答对。
- 《前沿实验室高管亲口说：AI 有一个我们不该越过的智能上限》(06:09起):本集前沿实验室高管说合成数据确实非常有效:把推理 token 转换回预训练数据,让下一代模型更聪明。
① 提到它的金句
2 条
我认为合成数据在可验证的领域有一席之地，但我们从公司那里听到的说法始终是，合成数据不会占据主导地位。
指向原始笔记的链接
I think synthetic data has a role to play and in verifiable domains, but what we consistently hear from companies it’s like synthetic data is not going to dominate.
—— Garrett Lord · [62:00]
有趣的地方在于,我认为人们对「合成数据」的含义有很多误解,因为 RLVR 本质上就是一场对合成数据的押注。
指向原始笔记的链接
So the fascinating thing is I think that there’s been a lot of misinterpretation of what people mean when they say synthetic data because like RLVR is a bet on synthetic data.
—— Brendan Foody · [16:38]
② 出现在这些集
10 集
- 《Handshake：靠学生网络四个月做到五千万ARR》 — 作为概念(提及)
- 《10亿收入不到100人:数据公司 Surge AI 如何逆行塑造 AI 未来》 — 作为概念(提及)
- 《Mercor CPO:开源模型蚕食不了数据生意》 — 作为概念(提及)
- 《应用公司如何低成本建自己的AI研究实验室：Harvey 的实战手册》 — 作为概念
- 《RL 环境:让模型学会用你电脑上所有工具的数据生意》 — 作为概念
- 《Rich Sutton：LLM 不是全部智能，真正的AI必须持续学习》 — 作为概念
- 《数据成了企业唯一的护城河：AI时代的数据基建怎么做》 — 作为概念(提及)
- 《Jev 背后的人:Diogo 谈为什么 AI 应该像数据库而不是同事》 — 作为概念
- 《每家公司都该有自己的AI模型吗？》 — 作为概念(提及)
- 《前沿实验室高管亲口说：AI 有一个我们不该越过的智能上限》 — 作为概念(提及)
③ 关联
点进去有真内容 —— 本页主要出口
后训练 · 智能体 · Anthropic · RL 环境 · Harvey · 预训练 · 基准测试 · Cursor · ChatGPT · Claude