跨国深谈← 返回←RAG

集里怎么说它

• 《AEO实战指南：如何让产品出现在ChatGPT答案里》(20:24起):本集说 RAG（检索增强生成）基本上就是先做一次搜索、再总结搜索结果；AEO 优化的是 RAG 这一层，不是模型的训练数据，意味着今天做了优化明天就能看到效果
• 《Chip Huyen：别追 AI 新闻了，真正提升 AI 产品的是这些事》(01:56起):本集说它是检索增强生成,为模型提供相关外部上下文来辅助回答;决定答案纯质量的最大因素是数据准备,而非纠结用什么向量数据库
• 《用 Markdown 组建一支军队:Y Combinator 掌门人的 AI 原生公司蓝图》(12:57起):本集提及它(检索增强生成),并指出虽然检索是其原语,但最难的部分在于让知识库里的内容「值得被检索」
• 《桥水内部版 AI 分析师 PAT:把数小时研究压到几分钟》(11:30起):本集把它说成：一种传统的搜索技术；指出只靠 RAG 和重排序，查结构化时间序列数据的准确率只有 50%，必须增加类人推理检查才能拉到 90%。
• 《个人 AGI：用 Markdown 组建你自己的劳动力》(34:26起):本集在回应’这只是 RAG 吗’的异议时说检索是原语不是产品，困难的部分是周围的一切
• 《Lindy 创始人谈 AI 员工的上下文战争：从红黑树到”走去洗车”》(11:37起):Flo 对 RAG 相当看空，认为它不如智能体管理方式，因为记忆智能体有元记忆、能逐渐学会哪些信息源重要
• 《模型一换代系统就崩？evals 才是你该押注的持久资产》(07:05起):本集把 RAG 作为第二代『链』架构的典型：先解析输入、检索信息、拼上下文再调模型，失败点从最终答案扩展到每个环节，eval 也要按环节拆开做。
• 《Navan 架构师谈生产环境智能体：从运行时到护栏的实战分层》(04:04起):本集说记忆层从 RAG 起步——把相关资料检索出来塞给智能体,因为无法塞进无限量的上下文。
• 《数据库60年 vs 智能体18个月：MongoDB 谈检索与记忆》(00:41起):本集说它经历了「被迫用→RAG 已死→重新成为企业重大优先事项」的循环，核心用途是把专有数据安全注入只在公开数据上训练的 LLM。
• 《把上下文当资产预编译：Pinecone Nexus 如何重做智能体检索》(00:05起):本集说它是把模型落地到自有数据的标准做法，但瓶颈在智能体每个查询都现场重复检索和 ETL 式整理，且概率性导致答案不一致。
• 《把 100 万 token 用出 5 万的体验：SubQuadratic 的稀疏注意力》(00:29起):本集讨论『RAG 是否终结』:Alex 认为说法太极端,是改造而非淘汰——有了便宜长上下文可以用跨多页大块、取前 50 条、20 路并行搜索,不必再把一切压缩进 10 万 token。
• 《差距不再是智能，而是上下文：给智能体造一个「上下文引擎」》(11:32起):本集说 RAG 是了不起的技术,但单独答不了「过去一周我参与过哪些关于鉴权的开放 PR」这类关系型问题,需要让智能体发现 schema 并确定性查询来补
• 《AWS 杰出工程师：智能体时代，难的不是写代码，是写规格》(50:16起):本集说人们嘲笑 RAG 过时了，但底线是让智能体对组织中的信息做语义搜索仍然是一种非常强大的技术。
• 《法律 AI 的搜索之战：从 Elasticsearch 到对象存储原生》(12:01起):本集顺带提到单次 RAG 式查询与智能体多次查询的对比，用来说明延迟累加问题。
• 《给智能体一个「知识层」：让 AI 不再是入职第一天的聪明新员工》(03:02起):本集说 RAG 和搜索等工具早就基本解决了公司特定知识的检索问题，但它拿不到部落知识——换 CEO 后 RAG 搜索仍会告诉你旧答案。
• 《分块没死:用多尺度索引把 RAG 提升 20-40%》(00:45起):本集反复讨论的框架:流行的说法是「RAG 已死」,但 Yuval 认为检索没死、只是沦为 2022 年水平的基础设施;RAG 分为无聊的索引阶段和每次查询时发生的检索阶段
• 《模型是租的，harness 才是你的：拆解智能体的七层框架》(09:26起):本集把 RAG 列为四种 AI 应用形态之一(半被动):先检索相关内容再让模型作答,并用 bi encoder/cross encoder 流程讲解其原理。
• 《为 AI 智能体构建文档上下文层:LlamaIndex 谈 2026 年的 RAG》(00:43起):本集把它说成 2026 年已演化为「智能体 harness + 上下文层」:naive RAG 是切块、嵌入、向量数据库、top-k 检索再 LLM 生成的固定流水线,如今检索复杂性被内置进智能体层。
• 《智能体时代，你的 PDF 数据管道拖后腿了吗》(02:41起):本集把它说成:几年前所有应用的主流形态——从语料库检索相关内容再做信息综合(企业搜索、问答机器人),如今正被智能体应用取代。
• 《300亿美元的隐形公司：VastData 要做 AI 时代的操作系统》(36:07起):本集说短期记忆（最近几周）和长期记忆（两年前）要通过 RAG 之类的机制接入推理环境，让模型按需访问外部资料
• 《上下文会腐烂：Chroma CTO 谈检索的下一站与 200 亿参数搜索子智能体》(05:37起):本集把它描述为「做一次搜索、把结果直接放进上下文窗口」的传统做法,作为智能体搜索的对照被一笔带过。
• 《给 AI 村庄装上自动研究循环：长时程智能体的实验配方》(03:07起):本集说智能体的记忆命名空间由 RAG 支撑,但加 RAG 记忆仍得不到想要的长期行为
• 《知识该放哪？提示词、记忆还是微调？》(07:52起):本集把 RAG 作为检索外部记忆的手段,强调代码 RAG 要用基于 AST 的分块并打元数据过滤,否则产出「RAG 糊糊」
• 《一个AI客服解决了80%的工单，成本每月700美元》(05:06起):本集说现成的支持机器人拿不到 RAG 基础设施所以无法迭代，是他们决定自建的原因之一；自建后用 Voyage 的嵌入做检索，让 Joey 一开始就拿到最相关的文档。
• 《从40份文件到8万份文件:企业AI落地卡在哪》(17:23起):本集在多跳 RAG 评估上对比:清理重复与过期数据后,召回率几乎翻倍,任务完成准确率提升 10% 到 15%,且该提升与具体用例无关。
• 《让小模型先猜，大模型来批：推理加速值不值？》(11:12起):本集把 RAG 作为反例提到：需要喂大量上下文、生成很短的应用，时间都花在建 KV 缓存上，投机解码帮不了什么忙
• 《搜代码不用向量库，搜公司文档为什么不行？》(03:20起):Claude Code 选择了不做 RAG，但对大规模企业数据，本集主张用预索引加截图索引的方式做 RAG，让答案有据可查。
• 《当几十亿个AI智能体冲向你的数据库》(00:34起):本集说两年前「数据库+AI」就等于 RAG 和向量数据库——用相似性搜索给聊天机器人补上下文,如今重点已转向智能体直接操作数据库
• 《从产品经理到产品构建者：一份被 12500 份招聘启事验证的转型路线图》(25:39起):本集提到 RAG 也不是招聘数据里的头号技能,并举例基于 RAG 的客服问答系统可作为 AI 用例

① 提到它的金句

3 条

用非常简单的方法，你可以把你的 RAG 系统或者任何涉及存储数据然后再检索的东西提升 20 到 40%。
And with really simple methods, you can take your RAG system or anything that has to do with storing data and then retrieve it with 20 to 40%.
—— Yuval Belfer · [17:10]

指向原始笔记的链接

你可以给一个智能体加上 RAG 记忆，却仍然得不到你想要的长期地平线行为。
You can add a RAG memory to an agent and still not get the current long-term horizon behavior that you were looking for.
—— Erina Karati · [17:12]

指向原始笔记的链接

RAG、agentic AI 和提示词工程，它们并不是排名第一的技能。排名第一的技能是为 AI 识别正确的用例。
RAG, agentic AI and prompt engineering, They were not the number one skill. The number one skill was identifying the right use case for AI.
—— Ankit Shukla · [25:40]

指向原始笔记的链接

② 出现在这些集

29 集

• 《AEO实战指南：如何让产品出现在ChatGPT答案里》 — 作为概念
• 《Chip Huyen：别追 AI 新闻了，真正提升 AI 产品的是这些事》 — 作为概念
• 《用 Markdown 组建一支军队:Y Combinator 掌门人的 AI 原生公司蓝图》 — 作为概念
• 《桥水内部版 AI 分析师 PAT:把数小时研究压到几分钟》 — 作为概念
• 《个人 AGI：用 Markdown 组建你自己的劳动力》 — 作为概念(提及)
• 《Lindy 创始人谈 AI 员工的上下文战争：从红黑树到”走去洗车”》 — 作为概念
• 《模型一换代系统就崩？evals 才是你该押注的持久资产》 — 作为概念
• 《Navan 架构师谈生产环境智能体：从运行时到护栏的实战分层》 — 作为概念
• 《数据库60年 vs 智能体18个月：MongoDB 谈检索与记忆》 — 作为概念
• 《把上下文当资产预编译：Pinecone Nexus 如何重做智能体检索》 — 作为概念
• 《把 100 万 token 用出 5 万的体验：SubQuadratic 的稀疏注意力》 — 作为概念
• 《差距不再是智能，而是上下文：给智能体造一个「上下文引擎」》 — 作为概念
• 《AWS 杰出工程师：智能体时代，难的不是写代码，是写规格》 — 作为概念
• 《法律 AI 的搜索之战：从 Elasticsearch 到对象存储原生》 — 作为概念(提及)
• 《给智能体一个「知识层」：让 AI 不再是入职第一天的聪明新员工》 — 作为概念
• 《分块没死:用多尺度索引把 RAG 提升 20-40%》 — 作为概念
• 《模型是租的，harness 才是你的：拆解智能体的七层框架》 — 作为概念
• 《为 AI 智能体构建文档上下文层:LlamaIndex 谈 2026 年的 RAG》 — 作为概念
• 《智能体时代，你的 PDF 数据管道拖后腿了吗》 — 作为概念
• 《300亿美元的隐形公司：VastData 要做 AI 时代的操作系统》 — 作为概念
• 《上下文会腐烂：Chroma CTO 谈检索的下一站与 200 亿参数搜索子智能体》 — 作为概念(提及)
• 《给 AI 村庄装上自动研究循环：长时程智能体的实验配方》 — 作为概念
• 《知识该放哪？提示词、记忆还是微调？》 — 作为概念
• 《一个AI客服解决了80%的工单，成本每月700美元》 — 作为概念
• 《从40份文件到8万份文件:企业AI落地卡在哪》 — 作为概念
• 《让小模型先猜，大模型来批：推理加速值不值？》 — 作为概念(提及)
• 《搜代码不用向量库，搜公司文档为什么不行？》 — 作为概念
• 《当几十亿个AI智能体冲向你的数据库》 — 作为概念
• 《从产品经理到产品构建者：一份被 12500 份招聘启事验证的转型路线图》 — 作为概念(提及)

③ 关联

点进去有真内容 —— 本页主要出口

智能体 · MCP · Claude Code · 上下文 · Anthropic · Codex · 向量搜索 · 向量数据库 · 上下文工程 · 推理