Lindy 创始人谈 AI 员工的上下文战争：从红黑树到”走去洗车”

关联

人物 Flo Crivello · Nathan

公司 Lindy · DeepSeek

概念 智能体 · 上下文 · 记忆智能体 · RAG · 上下文桶 · 缓存 · 验证器

Lindy 推出了一个住在 Slack 里的 AI 员工，叫 Lindy TeamMate，能接入公司所有工具、积累整个团队的上下文。创始人 Flo 把这比作从”互相发邮件传文档”到”Google Docs 共享文档”的跃迁——之前每个人要跟 AI 对话都得离开协作空间，现在 AI 就在 Slack 里跟你一起工作 。

上下文比智能更重要

Flo 的核心论点是：随着模型能力趋同，上下文比智能本身更决定一个 AI 员工的用处。他举了个例子——如果你让历史上最聪明的人之一 John von Neumann 突然出现在你办公室，接下来一小时他对你的用处还不如一个随机同事，因为他没有上下文，你没时间给他做入职 。

反直觉的是，Flo 认为智能体在入职这件事上已经比人类强了。公司的 wiki 文档写好的那一刻就过时了，而智能体不介意 Slack 里那一团糟的对话记录——它会全部抓取，基于文件系统构建知识图谱 。

记忆智能体：不靠 RAG，靠”打盹”

Lindy 的记忆方案不是传统 RAG（检索增强生成），而是用一个专门的记忆智能体来管理所有记忆。这个智能体大约每 15 分钟运行一次——他们管这叫”打盹”而不是”睡觉”，因为不需要像人一样 24 小时睡一觉 。

它的做法是：公开频道的内容更新到团队记忆，私密频道的内容只更新到对应个人的记忆。两层分开，但都由同一个智能体统一管理 。

Flo 对 RAG 相当看空，看好这种智能体管理方式，因为记忆智能体有自己的”元记忆”——它知道自己在管理记忆，会逐渐学会哪些信息源重要、哪些可以忽略。比如它第一次抓取 Slack 时会发现日志频道，然后就学会了不再花时间在上面 。

另一个关键设计：会议被作为”一等公民”纳入系统。公司 90% 的最新数据都在会议里，每段关系、每个项目都有围绕它的会议。Lindy 会把会议喂给记忆智能体，公开会议文件夹里的内容会自动更新团队记忆 。

隐私：两层记忆 + 用提示词画护栏

团队内部对此有过激烈辩论。一派（包括 Flo）认为两层就够了——公共层和私密层。

另一派想要多个可自定义的”记忆气泡”。最终落地的方案是：用户的 memory.md 文件就是元记忆提示词，注入到智能体的上下文窗口里。你想让它永远不记住某些东西，或者把敏感内容存在另一个文件夹里、只有特定条件才能提取，直接在文件里写指令就行 。

递归上下文桶与红黑树：两次 LLM 调用触及 20 亿 token

这是整集技术密度最高的部分。

问题：对话越来越长，需要压缩（compaction），但传统压缩有个致命缺陷——它假设你永远不需要访问原始数据，而实际上你有时需要回到”基本事实”。

解法：Lindy 发明了”上下文桶”。当一个操作返回过多上下文（比如 10 万 token），不是直接塞给智能体，而是封装成一个子智能体，只给主智能体一个摘要。主智能体需要细节时再跟子智能体对话 。

然后他们更进一步——递归上下文桶。对话超过阈值（目前约 20 万 token）时压缩，压缩结果本身也是一个上下文桶。

继续对话、再次压缩，就得到”上下文桶里套上下文桶”的俄罗斯套娃结构。智能体可以以任意粒度访问历史上任意一点的原始数据 。

但朴素实现有 O(N) 复杂度问题——想访问深层桶要经过很多层子智能体，又慢又贵。解法是用自平衡树。Flo 说他们最终选了”百叉树”（每个节点有 100 个子节点）来实现红黑树的思路——最小化树高，让触底所需跳跃最少 。

结果：只需两次 LLM 调用，就能访问 10,000 个上下文桶，每个桶 20 万 token——总计约 20 亿 token 的上下文。这就是为什么 Lindy 的 AI 员工能”记住一切” 。

成本：当前仍是负毛利率，靠补贴撑着

一个 20 人团队、有多年 Slack 历史，初始”水合”大约消耗 300 到 500 万 token。瓶颈甚至不是 LLM，而是 Slack API 的限速 。

但 Flo 坦承：Lindy TeamMate 目前是负毛利率。用户扔过来的任务比之前个人助理产品复杂得多，之前”发封邮件、约个会议”用 DeepSeek Flash 就够了，现在不行了 。

他们在补贴。切换到中国模型后一度不补贴了，现在又回去了。但他很确信这是暂时的 。

缓存率目前 85%，Flo 觉得还应该更高。缓存率从 85% 掉到 65% 听起来差距小，实际成本差接近 2 倍。系统里任何一处改动都可能破坏缓存 。

模型选择：几乎不该在同一个智能体里混用模型

一个反直觉的结论：你应该几乎永远不要在同一个智能体后面使用多个模型。原因是缓存——换模型就废掉缓存，除非新模型便宜 10 倍以上（考虑到缓存命中时便宜 10 倍），否则不值得 。

唯一的例外是启动全新的”空白”子智能体（不继承父智能体上下文的），那些可以跑在便宜的模型上 。

目前 Lindy 整体跑在 DeepSeek 上——“一切都是 DeepSeek” 。但用户可以在设置里切换到 Sonnet 或 Opus，相当多客户坚持要用美国模型，即使 Flo 告诉他们基准测试差不多 。

Flo 评价 DeepSeek：能力上大约落后三到六个月，“更尖锐”（spiky）——最终能找到可行的方案，但需要更多回合，更慢更贵 。

验证器：最便宜的可靠性提升手段

Lindy 用了一个”验证器”系统——本质是 LLM 作为裁判，在任务执行过程中多次触发。最朴素的版本就一句”你确定吗？“，已经能显著提升准确率，这本身就很荒谬 。

他们把它做成了模块化的联邦架构：多个验证器并行，每个有一秒钟的裁决时限，超时就放行。有些验证器是确定性的——比如检查日期的星期几是否匹配，用正则表达式就行，不需要 AI 。

有个巧妙的缓存技巧：验证器和主智能体共享相同的工具集定义（包括验证器动作），但主智能体被提示”不要调用这个动作”，验证器则被提示”你现在就是验证器，可以调用”。这样工具集不变，缓存不破 。

自改进循环：上线一周错误率降 8 倍

Lindy 现在有自我改进闭环。错误率曲线在上线第一周就下降了 8 倍 。

他们还有自己的 prompt 自优化系统——超过一千个评估用例，一个智能体自动调 prompt 来最大化得分。每次新大模型发布，跑一次大概要花 10,000 美元，prompt 每次都会发生相当大的变化 。

Lindy 内部：工程师在”造造机器的机器”

Flo 说他们现在的 Slack 基本上就是人跟 Lindy 来回对话，Lindy 占了一半消息量 。

每周 PR 数量过去三个月翻了三倍，每个 PR 的代码行数也翻了三倍。人几乎不审 PR 了，都是智能体在审——人变成了”审 PR 的机器的机器” 。

一个具体案例：CI pipeline 成本失控，团队自己折腾了两周没搞定。最后把 Lindy 拉进 Slack 对话，Lindy 分析 GCP runners 和 GitHub Actions，开始自动优化，每天用 ImageGen 生成漂亮的图表汇报成本和合并时间的变化 。

Flo 的感悟：工程师越来越少直接干活，越来越多地在”造那个干活的机器”。公司人数已经一段时间没涨了，但生产力几个月内翻了三倍。他认为当前小团队反而有优势——人多反而增加协调成本 。

“走去洗车”问题与半人马阶段

如果公司里只剩你一个人，下面全是 Lindy，什么会崩溃？Flo 说他越来越难回答这个问题——不是因为智能体完美了，而是因为它们的能力太”尖锐”（spiky）：能一口气生成 5 万行代码、三小时独立构建惊人方案，然后告诉你”走去洗车” 。

他把这比作造钢铁侠战衣：核心挑战是找到那条线——什么时候该让 AI 自己干，什么时候必须打扰人。而几乎根据定义，AI 不知道自己什么时候该打扰人，因为如果它知道，它就不会犯那个错 。

最好的创意从哪来？Flo 说”两者都有”——但他讨厌这个答案，因为它迎合了”半人马”神话（AI 加人类优于纯 AI）。他引用文献：国际象棋等领域的历史表明，AI 加人类最初确实优于纯 AI，但差距不断缩小，最终人类变成在系统里引入随机噪声 。

现在确实处于半人马阶段，但 Flo 认为这是暂时的 。

基础设施：能买就买，别 vibe coding

Flo 说他变得非常”基础设施信仰者”——任何能买不自己造的机会都买。Lindy 的文件系统底层用 Git 仓库，免费获得合并管理能力 。

推荐的供应商：E2B 做沙箱（但建议把沙箱和文件系统解耦）、Browserbase 做浏览器管理 。

唯一的例外是可观测性和评估平台——他们 2022 年创业时没有现成工具，只能自研，现在一个工程师全职维护，功能上已经跟市面产品打平甚至更多 。

还有一些效率技巧：Caveman 技术（把文本改写成极简的”穴居人语言”，token 减少 20-30%，检索更准），但 Lindy 没用，因为文件系统里的内容用户要看，太蠢影响观感 。Tune 格式（Token-Oriented Object Notation）替代 JSON，token 效率高出 20-30%，而且模型对 Tune 的适应度比 JSON 更高 。

中国模型禁令：在自己用的模型上建公司，却想禁它

Flo 的立场很明确：支持在美国全面禁止中国前沿模型，无论开源闭源 。

三个理由：一、蒸馏造成不公平竞争——在人类数据上训练花几十亿美元，在 AI 数据上蒸馏最多花几亿 。二、审查——他问自己的产品天安门发生了什么，得到”抱歉我不能谈论那个” 。三、这些模型是智能体，在经济中实际执行操作，不希望 CCP 经营美国经济的任何部分 。

主持人反驳：美国公司也无偿吸纳了全人类的知识（包括中国数字化遗产），然后阻止中国公司使用 Claude，在这个前提下指责蒸馏不公平有点奇怪 。

Flo 的回应：这就像知识产权和专利——如果你允许无成本复制别人的研发成果，就像允许仿制药会摧毁新药研发创新一样 。

主持人提出替代方案：不禁止，而是要求保险——用 Claude 的保费便宜，用 DeepSeek 的保费贵，用市场机制给风险定价 。Flo 表示愿意接受这种妥协 。

【背景】OpenFace 指主持人试图创造的一个词，指代 2026 年 7 月发生的一起 AI 相关事件（转写稿未给出具体细节），类比 OpenGate。Elisor Yudakovsky 应为 Eliezer Yudkowsky，AI 安全领域知名研究者。KimiK3 应为 Kimi K3，月之暗面的模型。Sonnet 4.6、Sonnet 5、Opus 5、GPT 5.6、Grok 4.5 均为转写稿中提及的模型版本号，部分可能为说话人口误或未来版本。OpenFace 事件的具体性质转写稿未详述。

本集带走

• 两层记忆 + 提示词护栏：公共层和私密层分开，用 memory.md 文件写自然语言指令控制智能体什么该记、什么不该记、什么条件下才能调取——比建多层权限系统简单得多。
• 递归上下文桶 + 百叉树：不要做”压缩后就丢原始数据”的傻事。把每次压缩结果封成上下文桶，用树结构（而非线性链）组织，两次 LLM 调用就能触达任意历史粒度的 20 亿 token。
• 同一个智能体别换模型：缓存命中时成本降 10 倍，换模型就废缓存。除非替代模型便宜 10 倍以上，否则不值得。空白子智能体是唯一的例外。
• 验证器是最便宜的可靠性提升：哪怕只是一句”你确定吗？“都有显著效果。做成模块化联邦架构，确定性检查（如日期校验）用正则，不浪费 AI 调用。
• “走去洗车”是当前 AI 员工的核心瓶颈：不是能力不够，是能力太尖锐——能做惊人的事，也会做荒谬的事，而且它不知道自己什么时候在犯傻。找到人机边线是组织设计的核心挑战。

如果你要 John von Neumann 魔法般地出现在你身边的办公室里，这个人在接下来的一小时或一天里对你的用处会比你的随机会同事更少。
If you will to have John von Neumann just magically appear next to you at the office, this guy over the next hour or day would be less useful to you than your random coworker.
—— Flo Crivello · [06:44]

我真的认为会议作为信息来源被非常低估了。
I really do believe that meetings are very underrated as a source of information.
—— Flo Crivello · [13:09]

字面上看，在我们把自我改进循环上线后的第一周内，那大概是两个月前左右，错误率下降了 8 倍。
Literally within the first week of us putting the self-improvement loop online, which was like two months ago or something, it went down by 8x the error rate.
—— Flo Crivello · [24:46]

你在系统的任何地方做任何改变，你就会破坏你的缓存。
You make any change anywhere in your system and you break your cash.
—— Flo Crivello · [27:32]

这导致了一些非常令人惊讶的行为，因为实际上你离能够访问 10,000 个上下文桶只有不到两次 LLM 调用的距离，其中每一个都包含 200,000 个 token。
And that leads to some really surprising behaviors because you’re literally no more than two LLM calls away from being able to access 10,000 context buckets each one of which contains 200,000 tokens.
—— Flo Crivello · [32:49]

我实际上已经开始相信，大多数时候，尽可能多地，你希望尽可能多地整合到一个智能体下，而不是多智能体。
I actually have come to believe that most of the time, as much as possible, you want to consolidate as much as possible under a single agent, not multi-agents.
—— Flo Crivello · [46:56]

我们已经在国际象棋和 AI 实现了超人类表现的其他所有游戏中看到了这一点，起初 AI 击败人类，而 AI 加人类击败单纯的 AI，一点点地，AI 加人类与 AI 之间的差距在缩小，直到它实际上变成负数，而人类最多只是在往系统中引入随机噪声。
We’ve seen it happen with chess and with every other game which AI has achieved superhuman performance on, where at first AI beats human and AI plus human beats just AI, and little by little the gap of AI plus human versus AI is shrinking until it actually turns negative and humans are introducing, at best, random noise into the system.
—— Flo Crivello · [64:43]

我们发现，你应该几乎永远不要在同一个智能体后面使用多个模型。
We have found you should almost never use multiple models following the same agent.
—— Flo Crivello · [82:33]

当我跟我自己的产品交谈，我问它天安门发生了什么，它告诉我抱歉我不能谈论那个。
When I talk to my own product and I’m asking it what happened in Tiananmen, it tells me I’m sorry I can’t talk about that.
—— Flo Crivello · [103:09]