跨国深谈← 返回←垂直 AI 创业的七步配方：护城河不是模型，是领域专业知识

垂直 AI 创业的七步配方：护城河不是模型，是领域专业知识

关联

人物 Ayush Bhardwaj

公司 Allos

概念 智能体 · 应用垂直 AI · 专有数据 · 可观测性 · 错误分析 · 基于人类反馈的强化学习 · LLM 当裁判 · 监督微调 · 基于可验证奖励的强化学习 · 人在回路 · 提示词 · 护城河

在金融做应用 AI 的工程师跳去医药行业，本以为会进入一个完全不同的世界——结果核心工作一模一样。说这话的人是 Ayush Bhardwaj，他先后在对冲基金和医药科技公司 Allos 做应用 AI，还去聊了法律 AI、房地产科技（proptech，用技术做房地产生意）的同行，发现大家在用非常相似的方式构建他称之为「应用垂直 AI」的东西——即为某一个特定行业、模拟该行业中某个人的工作而构建的 AI（比如 Google Translate 是通用应用 AI，而用 AI 研发药物就是垂直的）。

先回答一个他收到最多的提问：真的有人在把智能体放进生产环境吗？他说这是问错方向的问题——如今连 15 岁的孩子都在把智能体上线，真正该问的是它们是否真的有效：是否赚钱或省钱、是否证明了自己的 ROI（投入产出比）。从他的经验看，他待过的两家公司里，智能体都做到了。

七步配方：前四步是「简单部分」

第一步，表述问题。很多初创公司栽在贪多上——你必须挑一个非常窄的任务。

比如在金融领域，不要问「帮我找出三大值得投资的市场机会」，而是先选市场（美股）、再选行业（IT），然后让它按资本支出或 AI 投入这类具体参数给股票排名。构建更多智能体不用交税，为什么要让单个智能体什么都干？

第二步，识别数据。他怎么强调都不为过：人人都有新闻、投行报告、学术论文（ArcGZ 预印本服务器、PubCam 这些公开来源），但让你的应用比 ChatGPT 或 Claude 更好的，是**专有数据**——贵、而且没人卖给你，只能自己整理。

好消息是组织干了几年积累的非结构化数据，用 LLM 工作流一夜之间就能结构化。金融行业最好的专有数据是交易论点（什么交易成功了、为什么成功）；制药则是失败实验的数据——成功的数据能拿到，失败的相对难拿。

第三步，写提示词建模问题，理念是把「一个人如何解决这项工作」编码成多个步骤，像建一个心智模型。第四步，可观测性——查看追踪记录、理解应用在做什么、调试它。

然后他坦白：以上全是简单部分，一屏代码就装下了，传说中的 10 倍工程师几分钟就能搞定。真正的坎在下一步。

迭代：垂直 AI 项目悄悄死掉的地方

做完前四步，你该迭代了——但你很可能没法判断它是否有效。他不是交易员，也没有生物或化学博士，看不懂自己智能体的输出。

类比一下：工程师能立刻看出 Sonnet 5 写的代码很烂，因为你受了一辈子的训练、有判断编程好坏的心智模型；但预测交易论点或做制药的特定任务时，你没有同样的心智模型。表面上你构建完了、可以上线开卖了，但没人会买——就像你不会用一个更差的编程模型一样。这是很多垂直 AI 项目悄然死去的地方。

他试过用 LLM as a judge（让 LLM 当裁判来评估输出）自救，他直说这是非常愚蠢的错误：LLM 本质上只是预测下一个最可能的词，它会用行话蒙混过关，不理解 alpha（超额收益）是什么、不理解如何真正创造价值，而人类能立刻分辨什么是扯淡。

更深一层的原因有两个。其一，模型无法自我验证：基于可验证奖励的强化学习（RL，用「标准答案」训练模型的方法）在数学和代码上很有效，因为代码能编译、题目有答案；但在这些领域没法建模，任何误差都会逐步复合放大。

其二，数据从来就不存在：持仓超一亿美元的机构管理人依法每季度公开多头持仓，一旦申报、回报率就下降，因为所有人都能逆向工程、夺走他们的护城河；制药依法须披露每一项临床试验（无论成败），但约三分之一的公司从不这么做，2026 年 FDA 不得不公开提醒约 2,000 个申办方不要隐匿不利结果。他们藏着这些数据，因为它像下金蛋的鸡——所以 OpenAI 和 Anthropic 都没有，你也雇不起交易员来做标注（保密协议多、人家挣得更多）。

解法：雇用你想卖货给的那个人

没有别的绕开的办法。在对冲基金这很容易，用户就是他老板（交易员）；在制药初创则很别扭——一群年轻工程师得承认「我们需要一个资深科学家进来告诉我们该做什么」。雇了之后，工具的轨迹真的变了：向大药企推介时，对方开始喜欢他们的工具，因为它说的是行业的语言，而不是满是行话的 LLM 语言。

雇来用户之后，让他做什么？构建学习循环。

领域专家从最底层做起：打磨提示词（别让 LLM 直接干，改成问一个非常具体的查询）、帮你整理数据（就像工程师知道哪些会议是胡扯的、哪些论文网站靠谱，制药专家和交易员知道哪些来源更可靠）、并把「他们会怎么想一个问题」的思路拆解成步骤——分解问题、逐步打磨、最后做判断。在行业里摸爬滚打到顶层的人，他们的判断正在变成智能体。

落到技术上，他有几档方法，按 ROI 从低到高爬梯子：监督微调（模型模仿人类示范）；RLHF（基于人类反馈的强化学习，用人类偏好训练奖励模型）；评分标准做奖励（人类写评分标准、AI 据此给自己打分改进，但可能陷入回音室）；而最便宜、ROI 最高的是错误分析——直接分析可观测性日志，弄清模型哪里出错就纠正它，不用碰任何模型权重。之后再逐步上到 RLHF 这个他眼中的行业黄金标准。但它有成本：GLM 5.2 微调完，新的更强模型一发布（比如 Alibaba Cloud 或 DeepSeq 发布新模型），你就得跟着重新微调。

这个循环永不停止：雇更多用户、更多查询、范围和数据扩大，到某个时点你在生成自己的数据——循环里的练习本身就在产出记录「什么有效、什么无效」的疯狂数据集。等你确信应用确实能交付超越 Claude 和 ChatGPT 的 alpha，就上线收钱。

两个反直觉判断

关于「89% 的企业智能体没到生产环境」（Stanford AI Index 报告数据），他不同意：每个 AI 都能到生产环境，只是没跑起来或没证明自身成本合理。金融和制药不会等你说「也许两年后能行」——不能立刻赚钱，立刻请出门。

关于 human in the loop（人机协作中由人把关）：他说还早，金融和制药如今其实是「AI in the loop」——一切由专家完成，AI 负责省时间。AI 可以给交易员五个候选交易论点，但哪个在市场上行得通，判断仍在交易员手里；挑候选药物同理。

模型要做出好决策需要的是因果而非相关，正如 Jan Laken 所说这些模型只是「技术统计、不是真实世界模型」。他把那一步称为「AGI 线」——到了那一步，才会有 vibe coding 出来的药物。

本集带走

• 任务要窄：先选市场、再选行业、再定具体参数，一个智能体只干一件非常具体的事；多建智能体没有「税」。
• 护城河是专有数据 + 领域知识：模型、基础设施、大会上推销的一切都是大宗商品——你有人人都有；真正没人卖给你的，是互联网上不存在的行业数据和自己培育的领域专业知识。
• 雇用你的用户：没有别的办法让工具说行业的语言；让专家打磨提示词、筛选数据源、拆解思考步骤。
• 别用 LLM 当裁判：评估垂直领域的输出，从分析日志做错误分析开始（不碰权重、ROI 最高），再逐步爬到 RLHF。
• 金融与制药目前是 AI in the loop：AI 省时间、专家做最终判断，而且这两个行业只认立刻到账的 ROI。

每个人都在把智能体放进生产环境，如今甚至 15 岁的孩子都在这么做。该问的问题是它们是否真的有效。
Everyone is putting agents into production, even like 15-year-old kids these days. The question to ask is whether they actually work.
—— Ayush Bhardwaj · [03:17]

我上次查的时候，构建更多 AI 智能体是不用交税的。那你为什么要让你的单个智能体什么都做呢？
Last I checked, there was no tax on building more AI agents. So why do you want your single agent to do everything?
—— Ayush Bhardwaj · [04:49]

让你的应用更好的，是你的专有数据。
It is your proprietary data.
—— Ayush Bhardwaj · [05:34]

而人类却可以立刻分辨什么是扯淡，什么不是。
And whereas a human can just tell it instantly what’s bullshit and what’s not.
—— Ayush Bhardwaj · [09:32]

而他们把它藏起来，因为对他们来说这就像一只下金蛋的鸡。他们为什么要卖掉自己的鸡？
And they hide it because for them it’s like a chicken laying golden eggs. Why would they sell their chicken?
—— Ayush Bhardwaj · [11:22]

你要雇用那个你想把产品卖给他的人，因为说实话，没有别的绕开的办法。
You hire the person who you want to sell it to because there is, to be honest, no other way around.
—— Ayush Bhardwaj · [11:57]

那些在自己试图颠覆的行业里摸爬滚打到顶层的人，他们的判断现在正在变成智能体。
So the person who sort of has lived to the complete of the industry that they’re trying to revolutionize, their judgment is now turning into agents.
—— Ayush Bhardwaj · [13:46]

每个 AI 都能到达生产环境，只是它没能跑起来，或者没能证明自身的成本合理。
Every AI reaches production, but it just fails to work or justify its own cost.
—— Ayush Bhardwaj · [16:37]

它必须一落地就能跑。如果不能，立刻请出门。
It has to hit the ground running. And if it does not, show on the road instantly.
—— Ayush Bhardwaj · [17:02]

模型、基础设施、生态系统，这个大会上向你推销一大堆东西的每个人，都只是大宗商品。
Model, infra, ecosystem, everyone selling you tons of stuff at this conference is just commodity.
—— Ayush Bhardwaj · [19:10]