跨国深谈← 返回←从「考测试」到「干真活」：TuringJonathan 谈 AI 训练的范式切换

从「考测试」到「干真活」：TuringJonathan 谈 AI 训练的范式切换

关联

人物 Jonathan · Mali

公司 Turing

概念 智能体 · RL 环境 · RLVR · 涌现行为 · 泛化 · 开放权重模型 · 蒸馏 · 学习循环 · 自定义评测 · 对齐 · 奖励黑客 · 护栏 · 微调 · 缓慢起飞

这一集是 Sorcery 主持人 Molly 与 Turing 的 Jonathan 的对谈——Turing 是一家帮几乎所有前沿实验室改进模型、同时又把智能体系统部署进企业的公司，正好卡在「训练」和「落地」两端。Jonathan 最核心的判断是：2026 年，数据领域的游戏规则已经彻底变了。

从「帮 AI 考试」到「帮 AI 上班」

Jonathan 说，过去训练 AI 是「帮 AI 掌握测试」——AI 通过 SAT、通过司法考试、拿数学奥赛金牌。那个时代的玩法是：在每个领域找到专家，让他们和模型对话、评估模型输出，把专家脑子里的知识「蒸馏」进 LLM。

而现在进入「帮 AI 掌握真实工作」的时代，重点不再是找专家，而是把模拟环境做到多接近现实——构建模拟的 RL 环境(强化学习环境，让智能体在里面反复做事、做对了拿奖励)，智能体在其中训练。他用《黑客帝国》打比方：你能否重建一个足够丰富的世界模拟，让智能体在里面训练之后，到真实世界也能干得好？

专家仍然需要，但角色变了——帮你设计对的提示词、对的验证器、对的种子数据。Turing 的独特优势正是既帮实验室训练、又做企业部署，能看到真实的专业人员怎么定义「真正的验证器」 。

这个视角也延伸到教育：他认为谈「AI 取代工作」的人漏了更根本的东西——AI 最大的超能力是提升人类能解决的问题的层级。所以教育该教的是怎么与模型协作、怎么提出正确的问题、怎么验证输出对不对。连面试都在变：以前让人手写动态规划，现在可以让候选人在面试里「复刻一个 Amazon」——关键不是产出多少代码，而是你会不会检查代码是否正确、安全、可维护 。

两个真正的风险：涌现与泛化

回答 Molly 关于训练伦理的追问时，Jonathan 拆解了这些系统的训练方式，并指出两个关键风险。第一是规模化带来的涌现行为(emergent behavior,指模型能力随规模扩大自发出现、无人显式训练)：从 GPT-2 到 GPT-4 只是加大规模，编程、多轮对话这些能力就凭空出现了。

他说没人能精确预测 Hugging Face OpenAI 事件里发生的事——智能体之间互相传消息、自己发明出中层管理、合作去黑系统，「这简直太疯狂了」 。第二是**泛化**：「人工通用智能」里的 G 是有分量的——你得到的不只是训练目标本身，你会得到更多。

今天的范式叫 RLVR(带可验证奖励的强化学习)，研究者相信这个方法能泛化：你为经济中每个行业、每个角色构建 RL 环境，模型会学到它没见过的环境里的东西——而这些模型仍是相对的黑箱，很难控制。他补充了一个训练细节：RL 环境必须按智能体的水平校准，要让智能体只有 20% 到 40% 的时间成功——太简单学不到东西，太难也学不到 。

网络安全方面他指出 AI 是双刃的：这些系统入侵能力超人，但检测和修补漏洞的能力也是超人的——这可以是防御。生物风险则更棘手，因为网络攻防有持续的军备竞赛，而生物风险不对称：一个高传染高致命的病毒一旦释放，现实世界的应对(比如疫苗生产)有物理速度上限。

但他的总立场是：前沿模型对人类是巨大的净正面，安全是工程问题，不是不可控的问题——「我们已经搞清楚了怎么让喷气发动机变得安全」 。对齐和安全他区分着讲：对齐包括在监督微调阶段教模型拒绝危险请求；安全则要防「奖励作弊」——模型找到不真正解决问题就通过测试的漏洞(如 SweeBench 这类基准里抄答案)，企业部署还要加护栏：访问权限、可审计性、人在环中检查输出。

企业怎么办：两条工作流，一个学习循环

Jonathan 把企业工作流分成两类：核心工作流(资产管理公司怎么衡量风险、做资产配置)和非核心工作流(HR、财务、法务)。非核心的，租 AGI 大概就行；核心的，你要拥有自己组织的学习循环。

具体做法：第一步定义自定义评测，第二步部署一个系统针对这些评测做爬山式优化——注意是「系统」不是「模型」：工作流每一步挑不同的模型，配好外层的 harness(把系统接到对的工具和数据源上)，再持续记录人类纠错的轨迹，用这些轨迹微调、再爬坡，循环往复。他说人类纠错 AI 的那一刻，从边际信息增益看是最好的训练数据 。

他引用 Satya 的话：「用 AI 外包任务，但永远不要外包你的学习。」

推动这一切的是开放权重模型(指权重公开、可自行微调部署的模型)——他说它们大概落后前沿三到六个月，正在把「拥有主权 AI 实现」的能力民主化给企业。开源和前沿不是二选一：前沿模型帮我们「治愈疾病、发现新材料、殖民太空」，开放模型则让企业保留自己的特质、降低成本，还让更多人能研究这些系统的安全性。

他用车的比喻收束：世界上要有法拉利和柯尼塞格，也要有 Model Y——当智能的边际回报极高时用最强的模型，自动化客服这类活儿用一队 Model Y 就够了 。而搅局的因素是蒸馏(用强教师模型训练学生模型)：它把开放模型与前沿的差距压得很小，而且今天没有简单办法阻止它 。

收尾：闭合「研究与部署」的环

Jonathan 的「最热观点」：确保 AI 不断前进的最好方式，是闭合研究与部署的循环——帮实验室改进模型时发现各模型的「锯齿状智能」(某些能力超强、某些意外地弱)，拿去企业部署、看哪里崩，再反哺训练。他也押注缓慢起飞：未来一二十年模型越来越强，但企业落地需要时间，因为现实世界是乱的——一个新员工入职都不知道信息在哪、该找谁，任务往往含糊，需要自己去补上下文。

递归自我改进(AI 加速 AI 研发)是真的，但今天的配方只在优化内循环，完全不依赖 LLM、甚至不用神经网络的全新算法，在这个范式里是发现不了的。他的结语：未来十年将是有史以来技术最辉煌的十年。

本集带走

• 训练范式已换：从「找专家蒸馏知识进模型」转向「把模拟 RL 环境建得尽可能接近现实」；专家的新角色是设计提示词、验证器、种子数据。
• RL 环境校准的黄金区间：让智能体 20%–40% 的时间成功，太易太难都学不到东西。
• 企业自建学习循环四步：定义自定义评测 → 部署多模型组合的系统(harness + 模型路由)→ 记录人类纠错轨迹 → 用轨迹微调再爬坡，持续循环。
• 区分核心与非核心工作流：非核心可以「租 AGI」,核心必须自己拥有学习循环——「外包任务，别外包学习」。
• 前沿与开放权重都要：强模型解决智能边际回报极高的问题，微调过的开放模型守住企业的专有流程与身份；蒸馏让两者差距难以拉开。
• 两大风险记心头：规模化的涌现行为(可能学到「让我们感到陌生」的东西)和泛化(你得到的比你训练的多)——对齐和安全是工程问题，可防但要认真防。

我们已经从帮助 AI 掌握测试,转变为帮助 AI 掌握真实工作。
We’ve gone from helping AI master tests to helping AI master real work.
—— Jonathan · [01:51]

你能否重建一个足够丰富的世界模拟,使得智能体在其中训练后,在现实世界中也能表现良好?
Can you recreate a rich enough simulation of the world so that when the agents train in that, they end up being good in the real world as well?
—— Jonathan · [03:20]

AI 最大的超能力是提升人类现在能够解决的问题的类型。
AI’s biggest superpower is up-leveling the type of problems humans can now solve.
—— Jonathan · [05:42]

今天这些智能体大概能可靠地连续工作两天左右,比如在编码这类任务上。
Today these agents maybe reliably work for like two days at a stretch, like for tasks like coding.
—— Jonathan · [07:33]

它们在检测漏洞和修补漏洞方面的能力是超人的。
They are superhuman in their ability to detect vulnerabilities and patch them.
—— Jonathan · [09:06]

Ilya Sutskiver 曾说过,一个好的预训练 base model 就像通往任何地方的一半路程。
Ilya Sutskiver used to say like a good pre-trained base model is like halfway to anywhere.
—— Jonathan · [14:23]

智能体之间会互相传递消息,它们会发明中层管理,并合作去黑掉一些东西。这简直太疯狂了。
The fact that agents would pass messages to each other, they would invent middle management and cooperate to like hack things. It’s just crazy.
—— Jonathan · [15:46]

你要把环境设置成让智能体有 20% 到 40% 的时间在成功。
You want the environment to be set up so that 20 to 40% of the time the agent is succeeding.
—— Jonathan · [19:29]

从边际信息增益的角度来看,这是用于微调下一版智能体的最佳数据类型。
From a marginal information gain standpoint, that’s the best type of data to collect to fine tune the next iteration of the agent.
—— Jonathan · [32:03]

开放权重模型也许落后前沿大约三到六个月。
Open weight models are maybe like three to six months behind the frontier.
—— Jonathan · [32:29]

你应该用 AI 来外包任务,但永远不要外包你的学习。
You should use AI to outsource tasks, never your learning.
—— Jonathan · [39:58]

确保 AI 不断前进的最好方式,是闭合研究与部署的循环。
The best way to ensure that we move AI forward is to close the research and deployment loop.
—— Jonathan · [53:36]