① 他说过的话

18 条

模型从来都不是真正的瓶颈,围绕模型的判断力才是。
So the model was never really the bottleneck. The judgment around the model is.
—— Andrew Orobator · [03:12]

指向原始笔记的链接

人类是隐式吸收判断力的,智能体则需要判断力被显式化。
Humans absorb judgment implicitly. Agents require judgment explicitly.
—— Andrew Orobator · [02:38]

指向原始笔记的链接

一个 skill,就是把机构判断力变成可执行的东西。
A skill is institutional judgment made executable.
—— Andrew Orobator · [04:22]

指向原始笔记的链接

文档保存事实,而 skill 保存判断力。
Documentation preserves facts, while skills preserve judgment.
—— Andrew Orobator · [05:06]

指向原始笔记的链接

验证是你和你可以信任的软件之间的全部屏障。
Verification is all that stands between you and software that you can trust.
—— Andrew Orobator · [09:15]

指向原始笔记的链接

自主权是一级一级赢得的。
You earn autonomy one rung at a time.
—— Andrew Orobator · [10:02]

指向原始笔记的链接

写代码的智能体总是会告诉你它能正常运行,所以你让它交回一段东西实际运行的录像。
The agent that wrote the code will always tell you that it works, so you make it hand back a recording of the thing actually running.
—— Andrew Orobator · [10:41]

指向原始笔记的链接

制作那段录像迫使它把东西真正跑通。你没法伪造一次通过的运行。
Producing that recording forces it to make the thing work. You can’t fake a passing run.
—— Andrew Orobator · [10:50]

指向原始笔记的链接

模型写代码,我写判断。
The model wrote the code, and I wrote the judgment.
—— Andrew Orobator · [12:43]

指向原始笔记的链接

机器感受不到一条客气的评论,它只尊重硬性闸门。
A machine doesn’t feel a polite comment. It only respects a hard gate.
—— Andrew Orobator · [12:57]

指向原始笔记的链接

智能体不会走容易的路。它们会造出梯子,爬出成功之坑。
Agents do not. They will build ladders to climb out of the pit of success.
—— Andrew Orobator · [13:53]

指向原始笔记的链接

带逃生口的闸门,不是闸门。
A gate with an escape hatch isn’t a gate.
—— Andrew Orobator · [14:14]

指向原始笔记的链接

永远不要给智能体一个它能自己授予自己的理由。
Never hand the agent a reason that it can grant itself.
—— Andrew Orobator · [14:10]

指向原始笔记的链接

编码进去的判断会腐烂。
Encoded judgment rots.
—— Andrew Orobator · [16:17]

指向原始笔记的链接

每次会话,模型都像《初恋 50 次》里的德鲁·巴里摩尔一样醒来——才华横溢,却没有昨天的记忆。
Every session, the model wakes up like Drew Barrymore in 50 First Dates, brilliant and no memory of yesterday.
—— Andrew Orobator · [17:34]

指向原始笔记的链接

它们能通过,是因为我们构建了一个不会让它出错的挽具。
They pass because we built a harness that won’t let it be wrong.
—— Andrew Orobator · [18:01]

指向原始笔记的链接

扩展判断力,而不是扩展模型。
Scale the judgment, not the model.
—— Andrew Orobator · [18:12]

指向原始笔记的链接

系统睡觉,打扫房间,醒来时更加敏锐。
The system sleeps, cleans house, and wakes up sharper.
—— Andrew Orobator · [16:56]

指向原始笔记的链接

② 出现在这些集

1 集

• 《扩大判断力,而不是模型:自动驾驶代码库的工程原语》 — 作为嘉宾

③ 他谈到的

点进去有真内容 —— 本页主要出口

智能体 · harness 工程 · 自动驾驶代码库 · 技能 · 工作日志 · 人设 · 验证 · 闸门 · 护栏 · 心智社会

④ 也在聊「AI 编程」的人