跨国深谈← 返回←为什么 90% 的 AI 原型死在了演示阶段？

为什么 90% 的 AI 原型死在了演示阶段？

关联

人物 Jason · Samar Abbas

公司 Temporal

概念 智能体 · 编码智能体 · 持久化执行 · harness · 智能体循环 · code mode · 护栏 · 分布式环境 · 概念验证

你大概也见过这样的场面：公司里有人兴冲冲地演示一个 AI 智能体，大家都很兴奋，然后有人问一句——这东西能正式上线吗？

答案是：不知道。Samar Abbas 是 Temporal 的首席执行官，在 AWS、Microsoft 和 Uber 做了 20 年工程。他跟 This Week in Startups 的主持人聊了聊：为什么 AI 原型遍地都是，真正跑起来的却寥寥无几。

为什么演示很惊艳，上线就翻车？

Abbas 说，现在有了编程智能体，任何人只要有想法就能做出一个应用。但 90% 的这些想法死在概念验证阶段，再也见不到天日 。

原因不神秘。演示用的东西跑在自己的笔记本电脑上，跑几分钟就完事。

真正上线的系统不一样：跑得久、规模大、异步、还要在真实世界里执行动作——比如处理退款、下订单。

一旦到这个阶段，就会撞上老一套问题：可靠性、可扩展性、容错性。

Abbas 的判断是：这不是全新的 AI 问题，而是分布式系统的老问题重演。

就像当年云计算兴起时一样，智能体正在从个人电脑毕业，搬进真正的分布式环境，老麻烦也随之而来。

跑了就停、停了就忘怎么破？

主持人 Jason 提出一个所有人都遇过的痛点：AI 产品用着用着就卡住了，你必须从头再来——如果是几小时的大任务，那就更惨了。

更糟的是，模型不知道自己刚才停在哪一步。

Abbas 举了个例子：一个智能体在处理退款，刚退完钱，机器重启、进程崩溃，它还没来得及通知客户就死了。现在你怎么办？

重新处理一遍，再退一次款？那可就贵了 。

这就是 Temporal 在做的事，他们称之为持久化执行：

代码运行过程中出了故障，平台会记住之前所有的状态，软件开发者一行相关代码都不用写。

退款处理到一半崩了，状态已经安全存好，应用可以继续往前走。

顺便，你还得到了一双眼睛

Temporal 带来的另一个好处是可见性。现在的智能体本质上是什么？

Abbas 的定义很直白：一个大型语言模型，加一段提示词，再给它一堆工具。模型自己决定下一步做什么 。

问题是，它在你看不见的地方做决定。Temporal 让你能实时看到智能体在调用什么工具、调用哪个模型、进展到哪一步。

Jason 看完演示后说，他希望每个消费级 AI 产品都有这样的透明界面，至少能知道自己上次停在哪。

有了这种可见性，你还能中途干预：哪一步出错了、哪一步在胡说八道，直接改业务逻辑，把它拉回正轨。

模型负责聪明，挽具负责不翻车

最近业内常说：模型很好，但你得把挽具做对。挽具这个词来自马具——马再有劲儿，缰绳和辕得稳，车才不会翻。

Abbas 打了个比方：我们现在正处于智能体的 MS-DOS 时代，大多数人在自己笔记本电脑上装一个编程智能体用。

但下一步是让它长时间独立运行，甚至协调几十个智能体、调用一堆工具，每个工具可能要跑几分钟、几小时甚至几天。

这时候你需要把大脑从智能体循环里分离出来，单独放在外面，驱动整个分布式架构。

一旦某个智能体走上歪路，不至于把整个过程全弄崩 。这个外置的大脑，就是挽具。

什么时候该把智能体搬出你的笔记本电脑？

Jason 问了一个实际的问题：销售部门的智能体帮我找线索、写跟进邮件、安排通话——什么时候从个人工具升级成公司流程？

Abbas 的回答很干脆：光是从安全角度，在笔记本电脑上跑智能体就已经不是选项了。

有一种叫代码模式的做法，智能体在运行时自己生成代码再执行——想象一个大企业把业务流程交给这种智能体，让它现场写代码在业务环境里跑，从安全角度看非常让人不安 。

Temporal 的办法是用工作流和活动两个构件：智能体生成的每条命令都可以被拦截、审查，套上护栏之后才放进沙盒里执行。

另一个信号是人的变化：

当任务从一个人玩，变成一个团队带着一群智能体解决复杂业务问题时，唯一可行的路就是分布式环境。

这时候需要前向部署工程师——懂技术的人嵌入业务部门，用合适的工具把它建得牢靠。

本集带走

• 90% 的 AI 原型死在概念验证阶段：不是想法不行，是可靠性、可扩展性、容错这些分布式系统老问题没解决。
• 持久化执行是关键：智能体跑一半崩了，平台要能记住状态、接着往前走，而不是从头再来（比如退两次款）。
• 智能体 = 语言模型 + 提示词 + 工具；挽具是外置的大脑，保证某个智能体出错时整个流程不崩。
• 安全正在强制智能体离开个人电脑：智能体现场生成代码再执行，企业必须能拦截、审查每条命令。
• 从个人玩到团队用，是从笔记本电脑到分布式环境的分水岭，需要前向部署工程师把它建牢。

人们思考应用的方式已经非常不同了，尤其是随着现在编码智能体加入进来，地球上突然每个人都是软件开发者了。
The way people are thinking about applications is very different, like especially with the rise of now coding agents coming in the mix, everyone suddenly is a software developer on the planet.
—— Samar Abbas · [01:47]

在 POC 之后基本上就死掉了，永远见不到天日。
Die after a POC, essentially. They never see light of the day.
—— Samar Abbas · [02:38]

它准备好上生产了吗？而答案不可避免地是，我不知道。
Is it ready for production? And the answer is inevitably, I don’t know.
—— Jason · [03:00]

规模越大，它们变得越异步，运行时间越长，在真实世界中采取的行动越多，它们创造的价值就越大。
The more scale, the more asynchronous they get, the more longer they run, the more actions they take in real world, the more value they create.
—— Samar Abbas · [03:33]

这些问题开始看起来越来越像是分布式系统本质上的问题，而不是一个全新的 AI 问题。
These problems start to look more and more similar to like distributed in nature rather than a completely new AI.
—— Samar Abbas · [04:08]

从安全视角看，这是一个非常令人不安的世界，因为突然间你实际上是在一个业务环境里，运行由 LLM 在运行时生成的代码。
It’s a very unnerving world from a security lens because suddenly you are literally running code emitted at runtime from an LLM into a business environment, essentially.
—— Samar Abbas · [12:23]

我感觉我们现在正从智能体的 MS-DOS 时代过渡到一个真正的云环境。
I feel right now we are transitioning from an MS-DOS era of agents to a real cloud environment essentially.
—— Samar Abbas · [13:38]

我们将迎来范式转变，从「我就在我笔记本上做点东西玩玩」到「嘿，这会如何影响整个组织？」
We’re going to have the paradigm shift from, I’m just going to do things on my laptop and have fun, to, hey, how does this affect the entire organization?
—— Jason · [18:31]