人在回路 (human in the loop)
集里怎么说它
- 《三位 AI 智能体公司 CEO 圆桌：从 Copilot 到智能体，还要几年？》(22:00起):本集把它说成:按可逆性分级——可逆操作智能体做、完全不可逆的必须人批准,今天生产环境的智能体更像自动驾驶汽车,按复杂度、敏感度和监管分级决定人何时介入。
- 《当攻击用 AI、防守靠智能体：Abnormal 与 Cogent 聊智能体网络安全》(14:27起):本集说企业最终会按风险分层：笔记本电脑和开发环境可以端到端自主，最关键的生产服务器仍要人在回路；战略级大决策仍需要很多人在会议室反复辩论。
- 《n8n 创始人 Jan:把代码送出去,反而做到 1 亿欧元 ARR》(17:51起):本集说关键操作(发邮件、建日历事件)执行前必须经人工批准,AI 只能做你定义过的事、不会失控——这正是大组织敢把 n8n 用于业务关键场景的原因。
- 《AI 不抢工作，是找不到人：Lassie 如何用智能体接管小诊所的文书地狱》(16:29起):本集讨论中小企业使用工具的痛点时多次提及，指出小企业里根本没有人有时间坐在这套流程里当「回路中的人类」去操作工具，因此必须构建完全自主运行的系统。
- 《企业AI转型：效率不是终点，绞杀旧组织才是》(30:07起):本集说现有组织里大量审批、交接和层级传递是因为需要人在回路中来验证、确认、对齐、协调，而 AI 最大的机会空间就是减少这些环节，让更多人从开销角色转回价值生产者
- 《把智能体推向生产环境:为什么标准基础设施不够用》(09:11起):大多数重要任务绕不开的基础设施需求,要求运行时支持人类用户中断、停止或批准智能体的动作,并能将长任务的实时进度流式传输回前端持续更新状态。
- 《模型路由为什么还没解决：Amazon Nova 负责人的实话》(40:05起):本集说长远看迁移不需要太多人在回路里，但现实因为现代化需求而复杂，人需要在回路中建立信念和信任
- 《Canva 联合创始人:AI 把设计成本从零变成美分之后》(05:51起):本集说 Canva 是极少数让 AI 生成内容引用真人创作模板、并为此向创作者付酬(含署名)的平台,坚信「人在回路至关重要,尤其在创造力方面」。
- 《Stripe 内部公司大脑 Kai：让上万人放心把工作交给智能体的治理术》(00:59起):本集演示了敏感工作流里的人在回路审批：智能体要创建日历邀请时先弹出确认、由人点头，且按项目划定范围而非全场广播。
- 《不到10人管7个SaaS:让智能体替你做营销的实操系统》(44:11起):本集把它说成智能体工作流的信任节奏:邮件工作流前八周人工审读后才发,之后完全直接发;前两次给反馈、第三四次智能体就能自己搞定。
① 提到它的金句
4 条
而对于我最关键任务的生产服务器，我仍然想要人在回路中。
指向原始笔记的链接
And for my most mission critical production servers, I still want a human in the loop.
—— Vineet Edupuganti · [14:27]
对我来说,AGI 是一个可以在没有任何人在循环中的情况下自我改进的模型。
指向原始笔记的链接
For me, AGI is a model that can improve itself without human in the loop in any way.
—— Jerry Tworek · [38:21]
我认为那部分将是困难的，但我认为那将是 AI 最大的机会空间所在，就是在那里的所有事情上减少人在回路。
指向原始笔记的链接
And I think that part’s going to be difficult, but I think that’s going to be where the biggest opportunity space is at with AI is to reduce the human in the loop on everything there.
—— Chris Blackburn · [30:21]
AI 审批的 PR 以及总体上 AI 编写的代码甚至可以比仅有人类在流程中所做的更安全、质量更高。
指向原始笔记的链接
AI approved PRs and AI written code in general can be even safer and even higher quality than what you’re doing with just a human in the loop.
—— Claire · [03:47]
② 出现在这些集
10 集
- 《三位 AI 智能体公司 CEO 圆桌：从 Copilot 到智能体，还要几年？》 — 作为概念
- 《当攻击用 AI、防守靠智能体：Abnormal 与 Cogent 聊智能体网络安全》 — 作为概念
- 《n8n 创始人 Jan:把代码送出去,反而做到 1 亿欧元 ARR》 — 作为概念
- 《AI 不抢工作，是找不到人：Lassie 如何用智能体接管小诊所的文书地狱》 — 作为概念
- 《企业AI转型：效率不是终点，绞杀旧组织才是》 — 作为概念
- 《把智能体推向生产环境:为什么标准基础设施不够用》 — 作为概念
- 《模型路由为什么还没解决：Amazon Nova 负责人的实话》 — 作为概念(提及)
- 《Canva 联合创始人:AI 把设计成本从零变成美分之后》 — 作为概念
- 《Stripe 内部公司大脑 Kai：让上万人放心把工作交给智能体的治理术》 — 作为概念
- 《不到10人管7个SaaS:让智能体替你做营销的实操系统》 — 作为概念
③ 关联
点进去有真内容 —— 本页主要出口
智能体 · Claude Code · 护栏 · OpenAI · Codex · 沙箱 · Anthropic · Corinne Riley · 模板 · Stripe