Raghav Saboo
① 他说过的话
7 条
对于像 DoorDash 这样的市场平台来说,真正的瓶颈是语义理解。
指向原始笔记的链接
In this case, for a marketplace like DoorDash, the real bottleneck is semantic understanding.
—— Raghav Saboo · [00:53]
离线使用一次昂贵的推理,然后把它蒸馏进可以廉价、快速地提供服务的模型中。
指向原始笔记的链接
Use expensive reasoning once offline, then distill it into models that can be served cheaply and quickly.
—— Raghav Saboo · [06:10]
挑战在于,在电商规模下,标准嵌入很快会模糊掉相关性的区分。
指向原始笔记的链接
The challenge is standard embeddings at e-commerce scale quickly collapse the relevance distinction.
—— Raghav Saboo · [06:23]
在合适的地方,我们不是用 LLM 替换检索和排序系统,而是把推理和理解蒸馏进某种生产级排序架构。
指向原始笔记的链接
Where it seems right, we’re not replacing the retrieval and ranking system with an LLM, but rather distilling the reasoning and understanding into some production ranking architecture.
—— Raghav Saboo · [09:06]
归根结底,如果这些查询在 DoorDash 上没有库存,它们就毫无意义。
指向原始笔记的链接
Ultimately, if these are queries that we don’t have inventory for on DoorDash, they’re meaningless.
—— Raghav Saboo · [13:45]
把推理离线捕获为标签、语义 ID、记忆,然后让更小更快的模型来服务它。
指向原始笔记的链接
Capture reasoning offline as labels, semantic IDs, memory, and then let smaller and faster models serve it.
—— Raghav Saboo · [21:16]
在线的 LLM 调用往往不是你所需要的产品架构。
指向原始笔记的链接
The online LLM call is often not the product architecture you need.
—— Raghav Saboo · [21:26]
② 出现在这些集
1 集
③ 他谈到的
点进去有真内容 —— 本页主要出口
DoorDash · LLM · 语义理解 · 分级相关性 · 语义 ID · 记忆 · 嵌入 · 检索 · 排名 · 蒸馏
