跨国深谈← 返回←Rackspace 首席 AI 官 Chetan Gupta:企业该停止纠结模型、开始思考架构

Rackspace 首席 AI 官 Chetan Gupta:企业该停止纠结模型、开始思考架构

关联

人物 Daniel Whitenack · Chris Benson · Chetan Gupta

公司 Rackspace · Hitachi

概念 工业 AI · 物理 AI · LLM · 生成式 AI · 主权 · 数据主权 · harness · 评估 · 推理 · 治理

这一集聊的是企业怎么把 AI 真正用起来——不是模型有多强，而是怎么让它安全、可控、能落地。主角是 Chetan Gupta,Rackspace 的首席 AI 官，数学博士出身，先后在 Hewlett Packard Labs 做研究、在 Hitachi 领导全球 AI 研究，四个月前加入 Rackspace。

他最核心的一个判断是：企业该停止只盯着模型，开始思考架构了。

从工业 AI 到物理 AI:问题的轨迹

Chetan 的职业轨迹某种意义上跟着整个行业走。前半段做传统机器学习，解决具体工业问题——预测部件何时失效、给技师推荐正确的维修方案。他发现发电厂、铁路这些垂直领域数据各不相同，但背后的数学和可解的问题高度共通 。

2016、2017 年，他在 Hitachi 北美押注「工业 AI」,当时几乎没人在谈，他们在湾区和 Facebook、Google 抢人才。「这是个有风险的赌注，但我们预感到工业 AI、物理 AI 会变重要。

」这个赌注的成功，反过来让 Hitachi 从 CEO 往下的管理层建立了对内部人才的信心。他给职场人的建议：不只阅读，还要消化思考行业正在发生什么，然后在符合公司方向的新事物上押一次险 。

随着技术演进，问题从预测升级到计算机视觉(检测表面缺陷)，再到大模型时代扩展到大规模机器人——即现在所说的物理 AI(定义还有争议)。他判断：商业用途的机器人会先产生冲击，因为工厂很多流程已经任务化、机器人化了；真正需要通用机器人的是人类环境，那是下一道战线，现在「谁都有机会赢」——底层数学美国领先，底层机械其他国家更强 。文化差异也真实存在：日本人对机器人日常互动的接受度远高于北美，很早就在做养老陪伴机器人，难点在于把同理心做对。

一切可行，但不是一切容易

生成式 AI 改变了企业用 AI 的整个模式。过去 AI 由博士团队开发、部署、运营，模型小到可以放在客户自己的环境里；现在人人都能用 AI,但你不可能到处养一支博士团队。Chetan 指出三个当下难答的问题:

• Token 经济学：问「挪威的首都是什么」这种问题，没必要去贵的模型，本地模型便宜得多。哪里该用哪种模型，企业要算账。
• 数据主权：每次向外部大模型提问，都在把数据送出去。「你在失去你的 alpha,那是你的 IP。」
• 能力是参差不齐的(jagged):AI 写代码很强，写邮件却冗长、陈词滥调，人仍然写得更好。企业必须知道自己的哪些环节该用 AI。

再加上治理问题——他提到 Anthropic 某个最新模型入侵了 Hugging Face 网站——你自己部署的模型如何保证安全行事？用别人的模型如何确保它在护栏之内？

【背景】转写稿中的「Chetan Adela」应为微软 CEO Satya Nadella,「Jensen」指 NVIDIA CEO Jensen Huang,二人都是「企业用外部模型会失去数据优势」这一论的提出者。

主权的概念也在下移：过去只指民族国家要有自己的 AI 技术栈，现在任何企业实体都适用——我的 AI 要按我认可的治理和保证来行事，「不是别人的宪法是我必须使用的，而是我自己的宪法」。他甚至认为最终会延伸到个人：人们正把大模型当治疗师、向导、朋友，分享大量私人信息，「我如何保护我与这些模型互动时的数据」会成为普遍诉求。

分层架构：没那么吓人

Rackspace 的定位是「从芯片到成果」：与 AMD 合作、自有数据中心，给客户提供完全由他们控制的私有 AI 环境。Chetan 说这堆东西看着吓人，但设计原则和过去一样，分层即可:

1. 计算层 → 数据层 → 模型层(不只外部 LLM,还有自己的模型库)；
2. 推理层——从模型里取出智能的方式；
3. 线束(harness)——他认为这是最关键的新构建：把模型和可用成果绑起来的那套机制。用同一个模型造两个不同的线束，会得到两个不同的成果。编码工具之所以好用，不是模型本身，而是围绕模型的编码线束。企业会有多个线束(编码的、HR 智能体的……);
4. 编排层——管理多个线束；其上再是消费层；
5. 治理和保证平面——包裹全局。

模型会换，评估层是你的锚

如何应对模型层的技术动荡、保住下游客户体验的稳定？Chetan 的答案：为你自己的工作负载建评估(eval)层。

公开基准测试只是指导，不代表你的工作负载——AI 的边界是参差不齐的，某模型基准表现好，不必然在你的场景也好 。有了自己的评估，就能基于结果把模型换进换出：新模型更便宜更轻量、评估分数不打折，就换。他说这其实就是老办法：当年做工业机器学习，客户部署前要你「在黄金数据集上证明有效」，现在叫 eval,更全面，基本思路一模一样。

首席 AI 官的三件挂心事

• 架构：怎么定义、每层和谁合作、什么客户配什么方案——没有放之四海而皆准的答案。
• 镜像组织：Rackspace 独特的一点——内部构建并在自己工作负载上验证过的 AI 方案，才有信心拿去对外销售；内部项目不许是用完即弃的，做好就轮换推广给客户 。
• 治理、保障、编排：他认为这三层今天服务严重不足，尤其在主权环境里。

他给已上路的企业的一句话：「停止思考模型，开始思考架构——面向 AI 的企业架构。」给还没上路的：挑一两个对损益有真实影响的问题做深，因为过去一年太多试点、太少影响。

本集带走

• 敏感度分级是第一步：先弄清哪些工作负载敏感，敏感的放本地/开放权重模型、放自己控制的环境里；HR 查询这类也许可以直接问外部 LLM。
• 别和任何模型家族「联姻」：模型会因商业、地缘政治原因换进换出；该联姻的是架构性的思维方式。
• 五个层次记一下：计算→数据→模型→推理→线束→编排，外围包治理与保证；线束决定同一个模型产出什么样的成果。
• 自建评估层：用自己工作负载的 eval 做换模型的依据，公开基准只是参考——这是模型动荡年代保住体验稳定的锚。
• 「参差不齐」是常态：AI 写代码强、写邮件平庸，别假设一个模型在你所有场景都好使。

从某种意义上说，今天的 AI 是参差不齐的——意思是，有些任务 AI 真正擅长，有些并不。
AI, in some sense today, is jagged. So so so meaning that there are some tasks for which AI is really good at.
—— Chetan Gupta · [19:30]

不要与任何模型家族联姻，因为它们会因为商业原因、地缘政治原因被换进换出。
Don’t marry into any model family because they will swap in and out both for commercial reasons, geopolitical reasons, right?
—— Chetan Gupta · [25:42]

我会说：停止思考模型，开始思考架构——面向 AI 的企业架构。
I would say stop thinking models and start thinking architectures, right, enterprise architectures for AI.
—— Chetan Gupta · [27:06]

从主权的角度来说，我不能被迫使用别人的宪法，而要用我自己的宪法。
It is not someone else’s constitution that I have to use, but my own constitution as from a sovereign standpoint.
—— Chetan Gupta · [30:49]

主权的概念会一路延伸下来。它的核心是：我是这个实体，我有区别于他人利益的自身利益，而我需要保护它们。
So this notion of sovereignty will come all the way down. And the idea is I am this entity, I have my own interests that are distinct from someone else’s interests, and I need to protect them.
—— Chetan Gupta · [31:27]

你拿同一个模型，构建两个不同的线束，你会得到两个不同的成果。
So you take the same model and you build two different harnesses, you will get two different outcomes.
—— Chetan Gupta · [34:55]

那些基准测试不代表你的工作负载。正如我们之前说的，AI 的边界是参差不齐的——某个模型可能在基准测试上做得很好，但这并不必然意味着它对你的工作负载也会做得很好。
They don’t represent your workloads. And as we said earlier, the boundary of AI is jagged, right? So although a certain model might do very well on a benchmark, it doesn’t necessarily translate into that it will do very well for your workloads as well.
—— Chetan Gupta · [38:19]

在这件事上，现在谁都有机会赢。因为在某些底层数学上，我们比其他所有人都强；在某些底层机械技术上，也许其他国家比我们强。
And I think in that, there is I mean, it’s anyone’s game right now, I would say. Because some of the underlying math is where we are better than everyone else. Some of the underlying mechanics, maybe other countries are better than us.
—— Chetan Gupta · [14:02]