跨国深谈← 返回←企业AI为什么卡壳:只有6%的大公司真正跑通了

企业AI为什么卡壳:只有6%的大公司真正跑通了

关联

人物 Kevin Ball · Emily Hsu

公司 Scale.ai · Google

概念 企业 AI · 智能体 · 评估 · 实体消解 · 人在回路 · 基准测试 · 校准 · 数据基础 · Frontier Labs · 前向部署工程师

企业在 AI 上花了大钱,却普遍拿不到相称的回报——员工个人都在用聊天机器人和编码辅助,但组织层面几乎没变化。Scale AI 最近的一份研究报告给出的数字是:大型企业里真正把 AI 整合进业务、看到收益的只有 6%。

说这话的人是 Emily Hsu,Scale AI 的企业 AI 负责人,此前在 Google 干了 11 年,是 Google Brain 早期成员,做过 Vertex 调优、评估、智能体引擎等云 AI 产品的工程负责人,更早之前是 Vanderbilt 大学的教授。既给前沿实验室供数据、又下到企业里做部署,这个位置让她看得格外清楚。

第一层失灵:前沿模型的靶子根本没对准企业

模型开发团队对企业需求的接触非常有限。每一次模型迭代——也就是数据飞轮:找模型差距、补数据、再训练——整个工程实践都掌握在没有业务接触的工程团队手里。结果就是大家极度以基准测试为导向,能力支柱是数学、推理、代码、对话、多轮安全,而「企业」这一项在所有前沿实验室的排行榜上,到 2025 年已经缩成一个非常窄的支柱。

模型知道很多人类智力层面的知识,但具体到企业里:职业需求是什么、运营工作流是什么、哪些政策是超临界的关键——既没有评估标准,训练模型的人也没有这方面的直觉知识。能力差距的根本原因之一就在这里:企业世界的复杂性没有被很好地捕捉并呈现给实验室的开发者。

而且「企业」是一个词,却不像「数学」「代码」那么简单——光是医疗健康,就有医疗机构、医疗中心、保险公司、制药公司,医疗机构里还分大型学术医疗中心和社区医疗,它们对 AI 的需求和「可接受的 AI 服务」标准完全不同。数学和代码之所以进步快,恰恰因为亲手做的人真正理解它们、也容易定义「什么是对的」,可验证奖励的强化学习因此大放异彩;企业领域连北极星都还没立起来。

第二层失灵:二十年数字化欠下的账

就算模型没问题,应用和智能体还得和企业环境集成:怎么通过认证访问正确的数据、怎么读懂企业服务背后那些表名各异的 API 和数据模式、怎么把企业内部的部落知识(只有老员工脑子里有、没写下来的经验)作为上下文喂给智能体——这些都是不简单的问题。

更深的一层是过去二十年数字化的遗留。那波数字化里,信息的接收端是人,而人极其灵活:给我一份 PDF、一份手写笔记,不完美我也能看懂。

Emily 举了与 Mayo Clinic 合作遇到的例子:大家以为电子病历都按 FHIR 标准数字化了,但总有病人不在网络内,带着几百页打印成 PDF 的历史病历来看病。人能糊弄过去的事,智能体糊弄不过去——现在必须回头重新审视:一个智能体能应付过去吗?

也许不能。这些碎片化信息成了 AI 方案加速部署的真实障碍。

第三层失灵:人在用,但组织没接住

去企业问 AI 采用率,如果算上用 Claude Code、GPT 这些个人工具的人,采用率高得惊人——但没人是在协调一致的企业工作流里用的,只是各用各的提升个人效率。这带来两个问题:一是大量 IP 泄露,员工的提问和追问里含着企业机密、判断和隐性知识,全都流向了前沿实验室;二是这些极有价值的数字资产根本没被捕获、没在组织内沉淀成知识库,下一个接手项目的人继承不了前人积累。主持人 Kevin Ball 点破了另一个现象:只把个人生产力提升丢进组织、不重新思考组织本身,最终只会被下一个没提速的层级卡住瓶颈,组织层面的提升远低于预期。

技术问题的解法其实在人的手里。如果领导层不认可 ROI,团队就没有清晰的成功标准,人们很容易在一份惊艳的 demo 处停步不前——东西被丢在无人问津的角落,永远不进入产品化。所以最重要的是高层先在北极星成功指标上达成一致,再倒推出技术路线图。

那 6% 的赢家做对了什么

报告先严格定义了「成功」:项目从试点真正进入生产环境、并与工作流做了有意义整合(用具体的使用指标衡量)。Emily 强调他们做的是相关性而非因果归因——像做机器学习一样捕捉共同属性。三条共性:

一、数据基础是先决条件。 不意外,但绕不过去:没有数据,AI 什么都做不了。

这是个先有鸡还是先有蛋的问题,不过 AI 以正确方式进场后也能反哺——比如实体消解(把不同表里对同一企业实体的不同命名对齐)这个老问题,大语言模型凭预训练的词汇知识做得比传统方法好得多,先把数据资产归一化、标准化、关联起来,下一层智能体才能在其上释放更多能力。这是个迭代过程,但基础必须先打牢。

二、变革管理前置。 早期就有高层背书、承诺变革管理、投入员工培训资源(个人工具和企业工作流 AI 的步骤和界面都不一样),让员工参与共同开发、把 AI 当成工作流里的副驾驶——这样采用成功率会大幅提高。

三、内外专长结合。 只买产品,即使配定制咨询团队,仍要面对与工作流和企业上下文集成的问题;全部自建,内部团队通常缺少对 AI 技术的深入理解。6% 的赢家是战略性地把内部领域知识(这个东西什么时候有用、怎么用、什么结果能真正改变工作流和决策)与外部专业伙伴的 AI 模型、应用开发、系统开发专长结合起来。

评估:非确定性世界里的「单元测试」

Emily 称这是她最喜欢的话题。评估有三个要素:评估对象(智能体本身,加上它运行的环境——连接的工具、服务 API、后端数据库、文件系统、知识库,换了环境结果就变,这就是健壮性问题)、测试用例集(像软件测试一样覆盖正常路径、典型情况和边缘情况,她以患者安全分诊智能体为例:正面案例要命中上百条安全标准的各类事件,还要设计负面案例、困难负面案例、证据缺失的歧义场景)、以及输出的好坏判定与非确定性下的稳健性。

最难的一环是环境:行业里由真实数据支撑的评估环境极为有限——真实企业数据有隐私和法律约束,不用真实数据,数据内部复杂的依赖关系又无法真实还原。目前的折中是用性质相似、语义域相近的过期数据做匿名化,寻找代理数据来构建相似环境。但 Emily 坦承:模拟与真实之间的差距始终存在,这仍是开放研究问题。

人在回路:先是责任,再谈信任

智能体进企业后,有一个长期不变的基础:谁来为输出和决策负责?不能说「这是 AI 干的」——人类要长久地为 AI 的决策和工作成果承担责任。

战术层面则是分阶段的:在智能体于生产环境积累足够信任之前,人始终在回路里——模糊情况由人分诊、高风险操作由人确认、AI 产出的洞见由人审查是否符合业务政策。随着信任建立、产品成熟,再逐步自动化高置信度的操作,用初期较高的监督成本换可靠可信的部署。

这里还有个开放问题:AI 与人之间的认知界面到底是什么?现在的工具动不动就弹「确认」,确认多了人会疲劳,之后就不再能做正确判断了。

研究方向是校准——让 AI 知道什么节点才真正需要人类输入、它自己什么时候不确定。大语言模型的默认界面根本不暴露置信度,token 级的 logits 分布(模型输出前每个候选词的概率分布,能看出模型是笃定还是摇摆)或许能延伸到智能体和任务层面的校准置信度——目前仍是开放研究,而 Emily 认为随着生产化和人机协作加深,人们应该在这里投入更多。

本集带走

• 先立北极星,再谈技术:领导层不在 ROI 和成功指标上达成一致,项目就会停在 demo 阶段、永远不产品化。
• 数据烂摊子绕不过去:没有数据 AI 无事可做;先用 AI 做实体消解这类基础工作把数据资产归一化,上层智能体才有地基——这是迭代,不是一次到位。
• 别只发个人工具:员工各用各的 AI 意味着 IP 泄露加知识流失;要把提问和解决方案沉淀成组织知识库。
• 买还是建是假问题:内部领域知识(什么时候有用、怎么用)配上外部 AI 开发专长,才是 6% 赢家的共同姿势。
• 找到正确的试点用例起步:要真正有价值(不是玩具)、有数据和资源就绪、内外专长能支撑落地——第一个成功试点会复利式滚向生产上线。
• 评估学软件测试:定义评估对象和环境、策略性覆盖正例/负例/困难负例/歧义场景,再接受模拟与真实之间永远有差距、靠生产环境里的信任积累来补。

每一次模型迭代——我们称之为数据飞轮——理解模型的差距在哪里、如何贡献数据、训练它,这整个工程实践基本上由工程团队掌握,而他们并没有业务接触。
Every model iteration, which we call data flywheel, understanding where the model gaps are and how to contribute data, train it, the whole engineering practice is pretty much owned by the engineering team who actually do not have the business exposure.
—— Emily Hsu · [08:35]

但如果你只是把一堆个人生产力的提升丢进一个组织,而不重新思考你的组织,你往往最终只是被下一个没有同步提速的层级卡住瓶颈。
But if you just drop a bunch of individual productivity improvements into an organization without rethinking about your organization, you often end up just bottlenecked on the next layer that didn’t speed up the same amount.
—— Kevin Ball · [21:09]

第一个是可能存在大量 IP 泄露,因为当你与个人工具交互时,你所有的查询、所有的问题,其中有大量企业机密信息。
The first one is there could be a lot of IP leakage, because when you interact with an individual tool, all the queries you have, all the questions you have, there are a lot of enterprise confidential information.
—— Emily Hsu · [22:21]

而当人们习惯了只与个人生产力工具交互时,所有这些数字资产、所有这些隐性知识实际上都没有被捕获,也没有在组织内共享。
And when people are actually getting used to just interacting with the individual productivity tools, all this digital asset, all this implicit knowledge are actually not captured and shared across the organization.
—— Emily Hsu · [23:08]