跨国深谈← 返回←模型不再是护城河，谁在围绕模型建「自己的智能」

模型不再是护城河，谁在围绕模型建「自己的智能」

关联

公司 LangChain · LangSmith · LangGraph · DeepAgents

概念 智能体 · harness · 拥有你的智能 · 评估 · 轨迹数据 · trace · 微调 · 后训练 · 决策模型 · 护栏 · 模型路由 · LLM 网关 · 红队测试 · 可观测性 · governance

LangChain 是最早的大模型应用框架之一，比 ChatGPT 还早一个月问世。

在纽约举办的首届 Interrupt 大会上，创始人做了一场开场主题演讲，回顾了过去三年从原型到智能体的演变，并发布了一串新产品。

整场演讲围绕一个核心判断：模型本身正在被商品化，真正的差异化在模型之外。

过去三年发生了什么？

演讲者给了一条清晰的时间线：2023 年大家在搭原型；2024 年一些简单应用上了生产环境，但都只是单次调用大模型；

2025 年开始探索智能体；到了今年，智能体已经真正改变了应用层 。

他举了几个例子。Rogo 为金融领域做了专门的智能体运行框架和模型路由；Harvey 微调出了法律领域表现最好的模型；

JPMorgan Chase 则在内部围绕模型定制框架，服务于他们的 Jarvis 流水线。

这些公司的共同点是：不是简单套壳，而是围绕模型建了大量领域专属的东西——这就是他要讲的拥有你的智能。

为什么现在人人都在谈拥有你的智能？

三个原因。第一，token 成本在飞涨，公司花在 AI 上的钱越来越多，自然要求可控的投资回报 。

第二，开源模型越来越强，不仅便宜，还能做后训练和深度定制。第三，也是最重要的：

模型本身正在被商品化，真正的差异化来自模型外围的东西——你喂给它的上下文数据、你写进框架里的领域逻辑。

通往拥有智能的三大支柱

第一是开放可控的框架。它必须模型中立——进攻上说，新模型一出你就能马上切换；防守上说，不会被单一供应商锁死涨价 。

第二是复利。

上线一个智能体离成功还很远，你要观察它怎么被使用、在哪里犯错，然后不断迭代——可能是人工改提示词，也可能是自动的记忆和优化机制。

他的原话大意是：谁能最好地定义自己领域里什么是好，谁就能做出该领域最好的智能体 。

第三是治理。公司内部跑着一堆智能体时，你得知道它们有多少、成本多少、权限对不对。

人和流程也得跟着变

组织上，他看到 3 层人：最里层是平台工程师，提供工具给其他人用；

中间是智能体工程师——一种数据科学家、工程师和机器学习工程师的混合新角色；

外围是业务专家，他们往往最清楚什么是好，所以平台得能触达这些不写代码的人 。

流程上，智能体开发是一个循环：构建、测试、部署、监控，再把监控发现的问题带回构建环节。

一个智能体由三块组成

技术层面，他把智能体拆成三部分。业务逻辑（指令、工具、技能）由你自己写；

框架负责把模型和领域上下文接好线，让模型在对的时机看到对的信息；

基础设施则负责上云——持久化执行、安全访问工具、运行模型生成的代码等。

他们最新的开源框架 DeepAgents 就是一个现成的框架，借鉴了编程智能体的做法：

带沙盒文件系统和上下文压缩，专门用来做领域智能体。

今天还发布了 Managed Deep Agents，把框架和托管基础设施打包，新增了身份认证机制、用户级记忆，以及通过 Parallel 内置的联网搜索。

Jev 开创的决策模型值得关注

演讲里最有新意的判断是关于 Jev 这个周末刚发布的新模型类型。

它不生成文本，只做决策：你给它一个状态和一组问题，它返回布尔判断、分数或分类选择 。

这类决策模型的用武之地：给智能体的输出实时打分、在环评估、低延迟的护栏、以及路由——决定该用哪个模型、哪个工具。

开源社区在 Jev 之后涌现了一大批同类模型，LangSmith 的网关会托管这些。

数据飞轮：从轨迹到微调

观测层面，他们把过去按「单次调用—调用链—会话」记录的数据，升级成轨迹这个新标准格式——因为现在的智能体基本都是在循环中跑大模型、累积一段消息列表，这个格式更贴近真实行为。

轨迹的两大好处：调试界面更友好，标注反馈更容易；更重要的是它天然适合微调。

配套发布的 LangSmith Fine-Tuning 和 SmithTune 命令行工具，让你直接从轨迹数据筛选、预处理，送到 Fireworks 或 Base 10 训练，产出定制模型。

让 AI 工程师的部分工作自动化

压轴的是 LangSmith Engine v2。这是一个跑在轨迹数据之上的引擎，干的正是 AI 工程师干的事：发现问题、聚类、生成修复代码、补充评估器。

新版本有两个亮点：一是它会主动测试自己的修复——在部署上开预览分支验证问题真实存在、修复确实有效 ；

二是红队测试，在上线前主动模拟各种刁钻输入，找出智能体会失败的场景，顺便生成初始评估数据集。

数据也很硬：Engine 已经扫描了超过 7000 万条轨迹，检测出超过 21000 个问题，v2 现已上线。

本集带走

• 模型正在被商品化，差异化在模型外围：领域上下文、专属框架和数据。
• 拥有你的智能的三大支柱：开放可控的框架、能复利迭代的闭环、严格的治理。
• 智能体开发是循环而非一次性交付：构建—测试—部署—监控—回流改进。
• Jev 代表的决策模型新类别值得关注：不生成文本，只做判断，适合评估、护栏和路由。
• 微调的门槛在快速降低：从生产轨迹直接筛数据、训练、评估的流水线已经打通。

模型本身正在变得有些商品化，而真正起作用的是围绕模型的这一切，尤其是数据。
The models themselves are becoming somewhat commoditized and it’s all of this stuff around the model, in particular the data.
—— 嘉宾 · [03:32]

第一，我们认为 harness 需要是模型中立的，也就是你不应该被耦合到某个特定的模型上。
One, we think the harness needs to be model neutral, so you shouldn’t be coupled to a particular model.
—— 嘉宾 · [04:40]

如果你能比任何人都更好地定义对你的领域来说什么更好、什么是最好，你就能为那个领域构建出最好的智能体。
If you can define what better and what best looks like for your domain better than anyone else, you will be able to build the best agent for that domain.
—— 嘉宾 · [06:32]

还是更自动化的方式，比如用记忆或 prompt 优化之类的工具，这个复利循环非常重要，要构建到你的系统中并由你掌控。
Or more automatically, whether that’s with memory or prompt optimization things, this compounding loop is really important to build into your systems and to own.
—— 嘉宾 · [06:23]

我们看到很多智能体在写代码，即使它们不是编码智能体。
And we see a lot of agents writing code, even if they’re not coding agents.
—— 嘉宾 · [12:10]

护栏的一个缺点是它总会增加延迟。如果现在我们能以非常低延迟的方式加入护栏，那会非常酷、非常强大。
One of the downsides of guardrails is that it always adds latency. If now we can add them in a really low latency way, that’s really cool and powerful.
—— 嘉宾 · [17:20]

当你在构建智能体时，迭代周期就是一切。
That iteration cycle is everything when you’re building agents.
—— 嘉宾 · [30:21]