跨国深谈← 返回←给智能体一个「知识层」：让 AI 不再是入职第一天的聪明新员工

给智能体一个「知识层」：让 AI 不再是入职第一天的聪明新员工

关联

人物 Edo Liberty

公司 Nexus

概念 智能体 · 知识层 · 部落知识 · RAG · Manifest（清单） · NoQL · 运行时编码智能体 · 心智理论

这一集聊的是一个很扎心的问题：为什么大公司里的 AI 智能体（agent，能自主干活、调用工具的 AI）明明很聪明，干起活来却总像个什么都不懂的新人？主讲人是一位曾在 Yahoo 负责 Yahoo Answers 产品的从业者，如今在做一款叫 Nexus 的知识层产品。开场他用一个心理学概念「心智理论」（即我们理解他人知道什么、相信什么、会怎么行动的能力）点出了全场核心论点 ：

人们对自己用的产品「知道什么、不知道什么」往往缺乏判断——就像当年有人跑来 Yahoo Answers 问「我胖吗？」，可一个问答论坛根本不可能知道你胖不胖 。主讲人认为，今天的 AI 领域正在犯同样性质的错，只是更微妙：我们期望智能体干资深员工的活，却从没给过它们资深员工脑子里的东西 。

知识分三类，智能体恰恰缺第三类

主讲人把知识粗分为三类 ：

• 通用知识：公开领域里的东西，模型训练时就学过，比如怎么改进 Rust 代码、解释法律条款。这块模型已经很擅长。
• 特定知识：公司私有的具体信息，比如代码库里实现了什么、某个客户合同写了什么。这块靠 RAG（检索增强生成，先搜资料再回答）、搜索、Pinecone、向量数据库等工具早就基本解决了。
• 部落知识：公司内部的「通用常识」——我们怎么做事、流程是什么、谁负责什么、指导原则是什么。资深员工有、新员工没有，而且没法靠搜索一次捞出来，因为它是很多东西的总和，不是某份文档能写清的 。

问题就在这：如今大公司里大多数智能体的心智状态相当于一个新员工——很聪明、有工具、被寄予厚望，但对你的公司目标、文化、优先级、流程一无所知，大多数任务从零开始，每次新开会话都像入职第一天的应届生 。

所以主讲人的结论是：智能体需要的未必是更聪明、工具更好，而是需要一个新东西——知识层 。

知识层必须做到的三件事

按主讲人的定义，一个知识层至少要满足三点 ：

1. 持久：承载公司知识、流程、能力和目标，这种东西拼起来是巨大工程，应该只做一次（或极少重做），且全公司所有智能体都能访问。
2. 高度专业化：负责 HR 的智能体、优化内核的智能体、处理客户问题的智能体，关心的信息各不相同。好的实践是让公司里的领域专家拥有并维护各自的知识，确保它们与公司目标一致。
3. 始终保持最新——这是最难的。公司会变，过时的信息要被弃用。他举了个例子：公司换了 CEO，第二天全公司的人都知道新 CEO 是谁，哪怕过去 10 年的 9000 份文档写的都是别人——这就是「压倒一切的部落知识」，任何 RAG 搜索都会告诉你旧答案，但现在新事实才作数 。

他特别澄清：知识层不是要取代现有的一切——智能体照样能访问 LLM、工具、本地文件、RAG 和各种搜索；知识层是一个独立的实体，本质上不同的一种数据源 。

Nexus 怎么做：连接器、上下文、任务、查询

Nexus 大致由四部分组成 。

连接器做的是显而易见的事：把数据带进平台、尊重访问权限。话题枯燥，但做过的人都知道这玩意儿做对有多费劲 。

上下文是第一个真正有意思的部分，可以理解为知识层针对某个主题（HR、运营、工程……

）保存的资产总和。它不只有数据源连接，关键有两样东西：

• Manifest（清单）——主讲人称之为第一个真正新颖的想法 。今天我们给智能体提供上下文，靠的是技能、插件、命令、手写 markdown，模糊又费劲；有了知识层，你只需在 manifest 里告诉 Nexus 你关心什么：要完成什么任务、追踪哪些实体、在意什么信息——剩下的追踪文件、组织数据全是知识层的工作 。可以把 manifest 理解为「元知识文件或一组文件」。
• 知识本身，分五种载体 ：一张语义地图（目录式文件，组织所有信息的位置、关键 schema、术语表）；一堆 markdown 文件存决策、记忆等非结构化信息（他提到这和 Andrei Karpathy 提出的 LLMWiki 想法很像，算是「加强版」）；SQL 表格存表格数据和需要记住的事实；一个向量数据库支持语义搜索、文本搜索和过滤；外加图实体和图索引，记住实体、关系、因果链。这些全都是系统替你创建和维护的，你不用碰、也不用懂 。

任务是能对这些对象做的动作，主要是四个 ：import（导入新信息，如新 PDF、会议记录、董事会演示文稿）；curate（整理，最精细的函数之一——拿着新文件、manifest 和语义地图，判断「我需要更新哪些表格、图关系、文本索引」，把新信息消化进上下文）；search（内部函数，用简单函数抽象对上下文的所有访问，让智能体不必了解内部结构）。

查询（NoQL）是第二个最有意思的部分 。它是指定「怎么从上下文取信息」的方式，关键在于：智能体可以用 token 或美元为单位给出预算——你是要一个即兴的快速答案，还是要我们全力以赴搜遍一切给你最准的答案？ 它是给智能体用的工具，不是聊天界面，返回的是智能体友好的「有依据的文本 + 结构化格式」。

打开引擎盖：「运行时编码智能体」

Nexus 与其他系统最大的不同，是它自称**运行时编码智能体** 。普通编码系统的任务是：给我一个大代码库帮我改，改完部署——产物是软件，运行的东西里不再有模型。

Nexus 相反：在查询时，引擎本质上在搭一个类似 Jupyter Notebook / Python REPL 的环境，现场写代码、执行、拿到答案就用，不符合预期就重写那段代码 。最终你得到的是一段完成任务、能保存、能重跑的代码——答案是代码写出来的，而不是查数据库查出来的，因此极其灵活。

有个很能说明问题的数字：因为接口被代码抽象了，他们给智能体的提示词从约 150,000 token（给智能体配齐所有工具）降到了不到 1,000 token（只说明从 Nexus 取数的全部接口） 。

现场对比也很有说服力：同一个任务，走 Nexus 的智能体对上带着全部工具、但像「入职第一天员工」一样得自己找数据、搞清任务、写一堆代码的智能体——后者不仅慢得多、token 贵得多，准确性反而差得多，因为它没有公司里正确的上下文和目标 。

早期客户的数据横跨不同领域、企业、任务类型，结论一致 ：

• token 减少 77%–90% 很常见；
• 提速 20%–30%，有时达 77%；
• 同时准确性显著提高。

主讲人的总结很直白：「这真的是一记漂亮的制胜球」。Nexus 在演讲次日即从早期访问进入公开预览 。

本集带走

• 智能体的短板不是智力是部落知识：怎么做事、谁负责什么、指导原则是什么——这些资深员工脑中的东西，智能体没有，所以每次会话都像入职第一天从零开始。
• 判断标准是持久、专业、够新：知识层要只建一次全公司共用、按领域（HR/工程/客服）分工由领域专家拥有维护，并且信息过时要像「换 CEO 第二天全公司都知道」那样立刻被新事实覆盖。
• 用 manifest 声明代替手写上下文：你只说要完成什么任务、追踪哪些实体、关心什么信息，语义地图、markdown、SQL 表、向量库、图索引这些载体的组织全交给系统。
• 查询时给预算：让智能体用 token 或美元声明这次取数投入多少——快速即兴答案还是全面深挖，由预算决定。
• 运行时写代码取数，而不是查库：Nexus 在查询现场写代码、执行、重写，答案由代码产出；代价是提示词从 15 万 token 降到不足 1 千，实测 token 省 77%–90%、提速 20%–77%、且更准。

所以我认为，他们需要的未必是变得更聪明、拥有更好的工具，而是需要某种新的东西，我接下来称之为知识层。
So I would argue that what they need is not necessarily to be smarter, to have better tools, but to have something new, which I would call a knowledge layer going forward.
—— Edo Liberty · [04:47]

他们很聪明，他们有工具，我们对他们期望很高，但他们大体上是一头雾水的。
They’re brilliant, they have tools, we have very high expectations of them, but they are by and large clueless.
—— Edo Liberty · [04:09]

他们真的每次都是刚醒来，而且每次你开启一个新会话，他们就像上班第一天的应届新员工。
They really start to wake up, and every time you start your session, they’re like a new hire on their first day on the job.
—— Edo Liberty · [04:36]

我们从需要大约 150,000 个 token 来给我们的智能体提供所有需要的工具,降到了少于 1,000 个 token 来指定它们从 Nexus 获取信息所需的全部接口。
We went down from having something like 150,000 tokens to give our agents all the tooling they need to less than 1,000 tokens to specify all the interfaces they need to get information out of Nexus.
—— Edo Liberty · [17:07]

但有意思的是,它的准确性也差得多,因为再说一次,他们没有你公司里正确的上下文、正确的目标等等。
But interestingly enough, it’s also a hell of a lot less accurate because, again, they don’t have the right context, the right objectives and so on in your company.
—— Edo Liberty · [18:10]

你会获得显著的成本节约,77%、90% 的 token 减少很常见。
You get significant cost savings, 77, 90% token reduction is pretty common.
—— Edo Liberty · [18:44]