跨国深谈← 返回←前沿正在回家：把超级智能的记忆装进你自己的口袋

前沿正在回家：把超级智能的记忆装进你自己的口袋

关联

人物 Dylan Couzon

公司 Quadrants

概念 记忆 · 向量搜索 · 嵌入 · 开放权重模型 · 超级智能 · 推理

这一集是一场大会演讲,标题叫《前沿正在回家》。演讲者是 Quadrants 的开发者关系工程师 Dylan Cousin,他做的是一个直接嵌入应用、跑在你本地的向量搜索引擎(向量搜索:把文字、图片变成一串数字,靠数字之间的距离来判断”语义像不像”的检索方式)。他的核心主张一句话就能说完:比我们所有人都聪明的超级智能几年内就会出现,“何时出现”是个无聊的问题,真正的问题是——它归属于谁。

他摆出两个版本:一个版本里,超级智能住在别人的数据中心,你按 token 付费,随时可能被关掉、限速、夺走;另一个版本里,它是你的——从你的生活中学习,上下文私密,没人能动它。第二个版本就是他说的”前沿正在回家”。

桌面上的前沿模型,却只是个”聪明的陌生人”

硬件这一半其实已经到家了。他给出一个具体数字:今天一台 2500 美元以下的机器,就能运行”基本上是去年”的前沿模型,而开放权重的模型正在快速逼近,差距每个季度都在缩小。说实话,不是绝对最前沿,“但近得惊人”。

可这并没有带来预期中的里程碑感。他的解释是:一个模型本身只是一个聪明的陌生人——强大,但不是你的。让它成为”你的”的,是它知道的关于你的一切,而这一部分还没有回家。

更扎心的是现状的技术栈:算力是租的,模型是租的,运行框架是租的,连那个本应随岁月复利、本应”成为你”的部分,也是租的。他说,如果不解决这个,我们这代人能触及的最强大技术,最终归属的是持有租约的人,而不是它本为之而建的人。

租用的真实代价:三种失控

renting 的代价体现在三个层面。第一是被下架:上个月,一道政府命令切断了对两个旗舰模型 Fable 和 Mythos 5 的全部访问,面向所有客户。

对比一下已经坐在你桌面上的权重——没人能伸手进你的机器把它们关掉。 第二是悄悄变差:即使模型保持在线,提供商会淘汰旧版本、在经济吃紧时给剩下的版本限速;而你自己拥有的权重,不改变就永远不变。

第三是补贴会消失:现在人们不再写提示词,而是在智能体循环里跑好几个小时,一个任务烧掉的 token 可能是一条聊天消息的数千倍——有开发者在 200 美元的套餐上每月烧掉超过 5000 美元的算力。“那是补贴,而补贴最终会消失。“

更深一层:拥有推理给你自主,拥有记忆才给你连续

他指出,即使自己跑模型,也只解决了问题的一半。拥有推理给你的是自主性——没人能夺走模型;但拥有记忆给你的才是连续性——而连续性恰恰是每家大厂都在打包起来再卖回给你的东西。

去年,每家前沿实验室都发布了记忆功能。他点破:不是因为模型变聪明了,而是因为模型在会话之间什么都不携带——那个空缺才是真正的产品。一个起点简单但持续学习你的系统,永远比一个起点惊艳却把你忘得一干二净的系统感觉更聪明。

记忆到底是什么:三个动词,不是更大的提示词

他给记忆下了个工程化的定义:它不是一个更大的提示词,而是一个有三个动词的系统——写入、检索、遗忘,和你大脑实际做的三件事一样。

针对”为什么不干脆把所有东西扔进一个大文件夹”的反驳,他的回答是:检索到正确的记忆,胜过倾倒所有内容然后祈祷模型自己找到。检索给你一样提示词给不了的东西——控制:可以按主题过滤,可以按新近度和频率衰减,可以让相关性随时间漂移,“就像人类记忆实际运作的那样”。

而且他说,这块基础设施多年前就备好了:2016 年就有了 HNSW(一种高效的近邻搜索索引结构),嵌入(把内容转成向量)从 2019 年起就能在本地跑。“超级智能的记忆这一面从来不是难的部分,我们只是没把它指向自己。”

他引用 Carpathy 的比喻,这是全场最好记的一句:模型是 CPU,上下文窗口是 RAM,记忆是磁盘。RAM 快,但会话一结束就清空;磁盘才是跨越每一次对话都记得你的东西。而现在,地球上几乎每一个 AI 助手的”磁盘”,都在别人的数据中心里——离被重塑或搬走,只差一次服务条款的更改。

现场演示:一架完全离线、能记住所见一切的无人机

接下来是本集最具体的部分——一个现场演示。他笔记本上跑着一段无人机飞过民宅的视频,识别完全离线:用 YOLO(一个目标检测模型)检测画面里的物体并打标签,再把图片和标签转成嵌入,写入本地向量库,为这架”第一次出门、什么都不懂”的无人机构建实时记忆。

几组实打实的数字:现场已经识别了 92 个不同物体、写入超过 300 个向量;整个记忆加引擎的占用只有 15 MB。点一下画面里的咖啡桌,不到一毫秒,就能调出这架无人机见过的每一张咖啡桌——带图像、首次/最后出现的时间戳、定义,甚至被见过几次。全程无任何网络连接。

还有云同步的可选能力:一群无人机或机器人可以共享一个云端的”蜂群思维”——一个学到,全体都学到。他说这只是用无人机举例,同样适用于聊天机器人、你打电话咨询的智能体、代码助手。

关键的推论在后面:给一个模型建几周这样的记忆,“那个陌生人就消失了”。它记得你的纠正、你的偏好、那些你只需要碰一次的死胡同。

一个仅仅”还算不错”但永远不会忘记你、并在多年间不断复利的模型,在实践中会开始显得超人——不是因为模型变了,而是因为它从未停止学习你。

而且这套记忆是可移植的:换推理模型、换硬件都不重要,只要保留同一个嵌入模型,那个文件夹就成了永久资产——一辈子的上下文,从一台设备跟到另一台。

再往前一步:给你的”一整天”装上磁盘

他说这可以远远超出笔记本和无人机。把同样的记忆对准你的一整天:工牌放哪儿了?

她女儿叫什么?白板上写了什么?

我们见面时放的那首歌是什么?——“每一个都只是一次检索查询。“你刚看到的是无人机记住物体,把它扩展到你看到和听到的一切,这不是科幻,就是今天已经在出货的智能眼镜。

**那不是一个更聪明的你,是一个不会遗忘的你。**而此刻,这些设备没有一个共享一份你真正拥有的记忆。

他警告:前沿模型今天已经在构建关于你的索引——你的关系、你的习惯、你的全部内心生活,而且无论你是否选择加入,这个索引都在生成。“唯一的问题是:你是拥有它,还是在租用通向你自身的访问权。”

最后一个想法:拥有记忆不等于据为己有。可以自愿把存储的一部分共享出去——想象一个家庭,每人戴着记录自己一天的眼镜,彼此独立,但汇入一个全家共同拥有的蜂群思维。放大来看:与其让一家公司的超级智能服务数十亿个一模一样的人,你会得到数千个小型私人超级智能,每一个由一段人生、一个家庭、一个团队塑造而成。

但同一机制是双刃剑——记忆可以在有同意时被共享,也可以在无同意时被提取。所以他强调:它必须从本地开始,共享必须始终是自愿加入,绝不能是默认。

收尾

他把结论留给听众:未来几年,超级智能会出现,这部分基本已成定局;未成定局的是它属于谁——“那才是现在值得去打的仗,趁架构仍未尘埃落定”。今晚回家,别只是试用一个工具——把那个陌生人带回家,给它记忆,然后想象五年后的它:一个永远不会遗忘你的私人心智,没人能关掉,它对你的了解超过以往任何系统,因为你是唯一一个训练过它的人。

“那不是一个缩小的超级智能,那是唯一值得想要的那一个。“

本集带走

• “何时”不重要,“归属谁”才重要:超级智能大概率出现,真正的分野是它跑在别人的数据中心按 token 付费,还是跑在你自己的硬件上。
• 2500 美元就能买下”去年的前沿”:硬件不是瓶颈;模型本体也不是——缺的是随你复利的那份记忆。
• 租用 AI 有三种失控:模型可被政府命令下架、可被厂商悄悄降级或淘汰、低价套餐是终将消失的补贴。
• 记住 Carpathy 的比喻:模型是 CPU,上下文窗口是 RAM,记忆是磁盘——现在几乎所有人的”磁盘”都在别人的云上,一次服务条款更改就能被重塑。
• 记忆 = 写入、检索、遗忘三个动词:别把一切塞进大文件夹祈祷模型找到;可控的检索(按主题过滤、按时间衰减)才是正解。
• 共享必须是 opt-in:记忆能带来蜂群思维式的共享智能,同一机制也能被无同意地提取——所以先本地、共享自愿,应该由你决定谁能得到你的连续性。

在一个版本里,超级智能存在于别人的数据中心,你按 token 付费。在另一个版本里,它是你的。
In one, superintelligence lives in someone else’s data center, and you pay by the token. In the other, it’s yours.
—— Dylan Couzon · [00:47]

因为一个模型本身只是一个聪明的陌生人。它很强大,但它不是你的。
Because a model on its own is just a brilliant stranger. It’s powerful, but it isn’t yours.
—— Dylan Couzon · [02:29]

而那个本应成为”你”的部分,那个本应随岁月复利的部分,也是租的。
And the part that’s supposed to become you, the thing that should compound over the years, also rented.
—— Dylan Couzon · [02:57]

如果我们不解决这个问题,我们任何人在有生之年能触及的最强大的技术,最终将归属于持有租约的人,而不是它本为之而建的人们。
If we don’t fix that, the most powerful technology any of us will ever touch ends up owned by whoever holds the lease, not the people it was built for.
—— Dylan Couzon · [03:04]

拥有推理给你的是自主性,没有人能把模型夺走。但拥有记忆给你的是连续性。
Owning inference gives you autonomy. Nobody can take the model away. But owning memory gives you continuity.
—— Dylan Couzon · [04:39]

而连续性正是每家大厂都在试图打包起来再卖回给你的东西。
And continuity is exactly what every major lab is trying to package up and sell back to you.
—— Dylan Couzon · [04:46]

那个空缺才是真正的产品。
That gap is the actual product.
—— Dylan Couzon · [05:01]

一个起点简单但持续学习你的系统,永远会比一个起点惊艳却把你忘得一干二净的系统感觉更聪明。
A system that starts simple and keeps learning you will always feel smarter than one that starts brilliant but forget everything about you.
—— Dylan Couzon · [05:04]

模型是 CPU,上下文窗口是内存(RAM),而记忆是磁盘。
The model is the CPU, the context window is the RAM, and the memory is the disk.
—— Dylan Couzon · [06:46]

而现在,对于地球上几乎每一个 AI 助手来说,磁盘都在别人的数据中心里。
And right now, for almost every AI assistant on Earth, the disk is in someone else’s data center.
—— Dylan Couzon · [07:01]

超级智能的记忆这一面从来都不是难的部分。我们只是把它指向了我们自己。
The memory side of superintelligence was never the hard part. We were just pointing it at ourselves.
—— Dylan Couzon · [06:16]

一个仅仅还算不错但永远不会忘记你、并在多年间不断复利的模型,在实践中开始显得超人。
A model that’s merely good but never forgets you and keeps compounding over the years starts to feel superhuman in practice.
—— Dylan Couzon · [11:12]

那不是一个更聪明的你。那是一个不会遗忘的你。
It’s not a smarter you. It’s a you that doesn’t forget.
—— Dylan Couzon · [12:25]

唯一的问题是你是拥有它,还是在租用通向你自身的访问权。
The only question is whether you own it or if you’re renting access to yourself.
—— Dylan Couzon · [12:54]

然后想象五年后的那份记忆——不是一个聊天机器人,而是一个永远不会遗忘你的私人心智,没有任何人能把它关掉,而且它对你的了解超过以往任何系统,因为你是唯一一个训练过它的人。
Then picture that memory five years from now, not a chatbot, a private mind that never forgets you, that nobody can switch off, and that knows you better than any system ever has, because you were the only one who ever trained it.
—— Dylan Couzon · [14:32]

那不是一个缩小的超级智能。那是唯一值得想要的那一个。
That’s not a smaller superintelligence. That’s the only one worth wanting.
—— Dylan Couzon · [14:48]