暂停
暂停 (pause)
概念
本站收录 2 集 · 1 条金句 · 关联 10 个
集里怎么说它
- 《Nick Bostrom：智能体破笼之后，我们还能驾驭AI吗》(29:44起):本集说在关键阶段拥有暂停选项是有价值的，但越晚暂停越好——因为越晚你手里就越有真实的即将成为超级智能的系统可以做实验和评估；但长暂停若只约束最负责任的实验室反而会把主动权让给不守规矩者
- 《超级智能该加速还是刹车？哲学家的算法：先算算每年死多少人》(00:59起):本集说 Bostrom 同情给前沿设定节奏，但对喊停 AI 更谨慎：短期延迟可能划算，长达数年的暂停很难论证，『没有什么比临时政府项目更永久』。
① 提到它的金句
1 条
而我几乎认为，尽管你想快速奔跑、尽快到达终点，我们还是需要稍微停下来，理解我们真正想要完成的是什么，以及我们如何衡量智能体的成功？
指向原始笔记的链接
And I almost think that as much as you want to run fast and get there, we have to take a little pause and understand what are we really trying to accomplish and how can we measure the success of our agents?
—— Matt Gibiec · [03:58]
② 出现在这些集
2 集
③ 关联
点进去有真内容 —— 本页主要出口
Nick Bostrom · Hugging Face · 对齐 · 超级智能 · Alex · 生存风险 · OpenAI · 工具性趋同 · Anthropic · 强化学习