检索 (retrieval)
集里怎么说它
- 《AI 让个人更快,却没让团队更快:智能体记忆才是真瓶颈》(05:56起):本集把检索列为 harness 组件之一:「因为你不想把所有东西都取回来,所以要能够取回正确的信息」
- 《Tolan 如何做语音优先的 AI 陪伴体》(07:27起):本集把记忆做成检索系统:向量化存进向量数据库,查找低于 50 毫秒,还会围绕「这个人及这段关系」生成内部问题去检索
- 《让品牌被 AI 看见:AEO 实战与研究》(18:35起):AI 可见性四大支柱之一:模型经推理后调用检索引擎、做查询扇出,拉回约 60 个初始候选来源进入上下文窗口。
- 《LLM 重造 DoorDash 搜索与推荐:四个基础组件》(03:15起):本集讲检索系统如何吃下 LLM 分级标签:两阶段对比学习挖掘困难负样本,相关性 NDCG 提升 2.3%,且基于图的嵌入检索已胜过原有基于类目体系的嵌入。
① 提到它的金句
11 条
检索是容易的。值得检索才是产品。
指向原始笔记的链接
Retrieval is easy. Being worth retrieving from is the product.
—— Garry Tan · [13:21]
一个没有人策划的大脑会变成垃圾场,优秀的搜索检索会以绝对的信心检索出一个陈旧的事实。
指向原始笔记的链接
A brain nobody curates becomes a garbage dump with great search retrieval will surface a stale fact with total confidence.
—— Garry Tan · [14:30]
结果证明总结实际上损害了检索。
指向原始笔记的链接
And it turns out that summarization actually hurts a retrieval.
—— Mikael · [26:03]
当你翻转这个剧本时,结果是你可以用更小的分块大小获得更好的检索质量,否则这是不可能的。
指向原始笔记的链接
When you flip that script, it turns out you can get better retrieval quality with a smaller chunk size, which otherwise is not possible.
—— 嘉宾 · [41:34]
大多数人认为嵌入模型已经商品化了,但这不是事实。根据你选择什么样的嵌入模型,你在检索质量上可能会有非常巨大的差别。
指向原始笔记的链接
Most people think embedding models are commoditized, and that is not true. There is a very big difference that you can get in retrieval quality based on what embedding model you choose.
—— 嘉宾 · [50:00]
所以我要主张,如果我们必须干掉某个东西,如果有什么必须死,那很可能是检索调优。
指向原始笔记的链接
So I will claim that if we have to kill something, if something has to be dead, then it’s probably retrieval tuning.
—— Yuval Belfer · [02:40]
在这种情况下,你可以把检索本质上就理解为投票。
指向原始笔记的链接
In this case, you can think of retrieval as essentially just voting.
—— Yuval Belfer · [12:48]
如果我需要给你们留下一句话,我会说智能体并没有杀死检索。
指向原始笔记的链接
And if I need to leave you with something, I would say that agents didn’t kill retrieval.
—— Yuval Belfer · [16:54]
在合适的地方,我们不是用 LLM 替换检索和排序系统,而是把推理和理解蒸馏进某种生产级排序架构。
指向原始笔记的链接
Where it seems right, we’re not replacing the retrieval and ranking system with an LLM, but rather distilling the reasoning and understanding into some production ranking architecture.
—— Raghav Saboo · [09:06]
其中最重要的一点是,代码已经在磁盘上、在本地了,尤其是如果你的智能体有上下文的话,那为什么要用一个预检索系统把它复杂化呢?
指向原始笔记的链接
And the largest part there is code is already on disk and local, especially if your agent has context, so why complicate it with a pre-retrieval system?
—— George He · [03:49]
但这里的主要结论其实是,它最终归结为你所拥有的数据的规模,以及你愿意投入多少整理成本来维护那套合理的检索系统或数据管理系统。
指向原始笔记的链接
But the major takeaway here is actually it really comes down to the scale of the data that you have and how much curation effort you’re going to put in in order to maintain that retrieval system or that data management system that makes sense, right?
—— George He · [05:18]
② 出现在这些集
4 集
- 《AI 让个人更快,却没让团队更快:智能体记忆才是真瓶颈》 — 作为概念
- 《Tolan 如何做语音优先的 AI 陪伴体》 — 作为概念
- 《让品牌被 AI 看见:AEO 实战与研究》 — 作为概念
- 《LLM 重造 DoorDash 搜索与推荐:四个基础组件》 — 作为概念
③ 关联
点进去有真内容 —— 本页主要出口
智能体 · LLM · 记忆 · OpenAI · Claude · Kay Malcolm · Paula Dozsa · Daniel Whitenack · Raghav Saboo · Oracle
