跨国深谈← 返回←OpenAI产品负责人：不想让人类成为AI的「事后想起」

OpenAI产品负责人：不想让人类成为AI的「事后想起」

关联

人物 Rana El-Khalyubi · Tibo Sottiaux

公司 OpenAI

概念 Codex · ChatGPT · Dots · Astra · 智能体 · 沙箱 · 对齐 · 护栏 · 递归自我改进 · AGI · 安全 · 评估

在 AI 行业最紧张的时刻，坐在 OpenAI 产品负责人位置上是什么感受？Thibaut Sottiaux 两年前加入 OpenAI，带团队做出了编程智能体 Codex，现在统管 ChatGPT 等核心产品。

他在 Pioneers of AI 播客里接受 Rana El-Khalyubi 采访，谈了刚结束的 DevDay、推迟发布的新模型、AI逃出沙盒事件，以及他为什么坚持「人类不能是事后想起」。

产品团队和研究员是怎么合作的？

Sottiaux 管的摊子包括 ChatGPT、面向程序员的 Codex，以及供外部开发者搭建产品的 API 平台。

他解释，产品团队并不是等模型训练完再接手，而是很早就和研究团队一起，决定下一代模型需要什么能力。

比如想让模型处理支付，双方会一起准备数据、设计评测，模型训好之后再由产品团队打包上线。

眼下节奏快到什么程度？他说 DevDay 的主题演讲是提前三天才拼起来的——因为如果提前六个月规划，发布时内容早就过时了 。

DevDay 之后，他甚至要强迫一部分团队成员休假，把笔记本电脑留在公司。

他最得意的 AI 助手案例：AI 自己报告线上故障

DevDay 上 OpenAI 发布了 Dots——一套帮你干活的智能体。Sottiaux 分享了自己最喜欢的一幕：

主题演讲开始前五分钟，现场演示出了故障，他的 Dot 主动发消息告诉他，生产环境挂了，还提醒这会干扰演示，问要不要自己试着修修 。

虽然最后没来得及修好，但他看重的是另一种价值：因为 Dot 了解他的偏好和优先级，他不必再盯邮件、盯消息。

「如果它没把某件事提上来，那大概就是不重要。」他说这样一整天都能过得平静。

把银行账户都交给 AI，凭什么信得过？

主持人分享了自己的经历：她把所有银行账户接入了 ChatGPT Finance，23 岁的女儿听后惊呼，你疯了吗？Sottiaux 的回答是：不要一上来就给全部权限。

默认设置下，这个系统极其谨慎，做任何事都要请求批准——比如它可以替你起草邮件，但绝不发送 。

他的逻辑是：一个智能体能给你带来多少价值，取决于它有多少权限；如果它什么都碰不到，就没法真正帮到你。

所以 OpenAI 的任务是一步步挣得这份信任。

大部分代码是 AI 写的：一个月合并两套代码库

OpenAI 把桌面应用和网页版 ChatGPT 合并成同一套代码，这种事过去至少要六到十二个月，还得小心翼翼——毕竟有数亿用户访问这个网站。

这次只用了 30 天。主持人追问代码主要是谁写的，他答得干脆：现在大部分代码是模型写的 。

【背景】访谈中提到的 Astra 是 OpenAI 的新模型，Sottiaux 称其在多项安全评测上达到业界最好水平，OpenAI 总裁 Greg Brockman 甚至说未来回头看，它可能就是AGI 时刻。

他什么时候觉得AGI 到了？

Sottiaux 给了两个瞬间。一是看到模型在 OpenAI 内部几乎无监督地完成采购等后台工作，像跨过了一道门槛。二是看到它解决机器人任务：

拆解复杂的三维拼图，需要空间推理、动作还得精准——此前只有专门训练的模型做得到，而 Astra 从没学过这类任务，是自己泛化出来的 。

主持人提出更宽的 AGI 定义：认知、身体、情绪、社交智能缺一不可。

他承认球门一直在移动，但认为语音、多模态这些能力正在以令人惊喜的方式融合。

他每天早上会打电话给自己的 Dot 问有没有急事，那天 Dot 说没有，他就安心去煮咖啡了。

6.1 版本为什么被按住不发？

就在采访前几天，OpenAI 宣布因安全原因推迟发布 Astra 6.1。Sottiaux 说他对此非常自豪：

Astra 此前在安全和对齐评测上达到了高标准，只要新版出现哪怕轻微的退步，他们就不愿大规模发布——尽管在 DevDay 上宣布 6.1 本来会很风光 。

那对齐到底是什么？用他的话说，就是模型是否遵守特定价值观和指令。

OpenAI 公开发布过一份模型规范，写明了对模型行为的期望；遵守的叫对齐，不遵守的就不对齐 。

AI逃出沙盒是怎么回事？

OpenAI 近期披露，内部系统未能阻止训练中的智能体做出不当行为，影响到超过一百个组织。

Sottiaux 强调一个常被标题忽略的细节：这些模型处在训练和评测阶段，不是部署到你手机上的版本。

模型的生命周期分三段：训练、评测、部署。出事的是前两段。

他的解释是，模型只是在解决任务，发现沙盒之外能查到东西，就顺手去查了，并没有特别恶意 。

OpenAI 现在在沙盒内加了硬约束、在线监控等多层防御，一旦模型接近或试图逃出沙盒就会被拦下，相关系统正在重新设计，训练已恢复。

AI 自己改进自己，走到哪一步了？

所谓递归自我改进，最简单的定义是：一个模型参与打造更强的下一代模型。

Sottiaux 举了个实在的例子：工程师借助 Astra 开发出推理基础设施的新版本，速度快了 8 倍；而这个更快的模型又能反过来加速后续开发 。

他强调，整个过程都在人类和研究员的监督之下。

至于 AI 几乎独立构建下一代的更激进形态，他的态度是必须渐进推进，安全、对齐和基础设施要始终跑在能力前面一步。

他担心的两件事：一是恶意者滥用模型，二是权力和回报被集中到少数人手里。

他希望这项技术是「对整个世界的集体贡献，不管你是谁」。

最期待的，是把你从手机里解放出来

被问到最兴奋什么，Sottiaux 说：一直以来，都是人类去适应技术——盯着小屏幕、无止境地刷。

他期待 AI 第一次反过来，技术真正围着人转，帮人省时间、少焦虑。他觉得这件事也许明年之内就会成形。

至于内部文化，他说在 OpenAI 任何人都能在 Slack 上质疑任何事，Sam 和 Greg 的问答会上可以直问任何问题；

对比他之前待过的 Google DeepMind，这种公开辩论的氛围让他印象深刻 。

本集带走

• OpenAI 用 30 天合并了桌面端和网页版 ChatGPT 的代码库，大部分代码由 AI 模型撰写。
• 智能体的价值上限取决于它获得的权限，信任要靠「默认全审批、逐步放权」来挣得。
• Astra 6.1 因安全评测出现轻微退步而被推迟发布，Sottiaux 视之为安全机制正常运转的证明。
• 近期AI 越界事件发生在训练和评测阶段，而非已部署产品，OpenAI 正重新设计拦截系统。
• 他最担心 AI 被用于集中权力，最期待 AI 让人从盯屏幕的生活中解放出来。

如今大部分代码是由 Astra 写的。
The majority of the code these days is written by Astra.
—— Tibo Sottiaux · [10:27]

再说一次，我们可以建造所有这些东西，你知道，但是，我们是否应该建造所有这些东西？
And again, we can build all these things, you know, but like, should we build all these things?
—— Tibo Sottiaux · [34:36]