跨国深谈← 返回←超级智能 (superintelligence)

集里怎么说它

• 《Anthropic 联合创始人：安全为什么不是添头，而是 Claude 性格的来源》(00:06起):本集预测在短短几年内达成某种超级智能的几率是 50%，这个预测基于缩放定律的持续成立、模型训练的低垂果实以及数据中心和电力的全球规模扩张。
• 《Nick Bostrom：智能体破笼之后，我们还能驾驭AI吗》(00:42起):本集说当前主要希望是先做出一个大部分时候对齐的弱超级智能，用它来制造更强大、更可靠对齐的系统，只要进入大致正确的吸引子盆地，后续发展可能逐渐收敛到理想状态
• 《超级智能为什么危险：Ryan Greenblatt 的推演与解法》(00:19起):本集把它说成不是’坏的’而是’危险的’，危险来自三个层面：未对齐 AI 接管、权力极端集中、技术进步速度远超智慧增长
• 《Shopify CEO Toby：一半代码来自聊天群里的 AI 同事》(27:56起):本集说我们一直生活在超级智能的怀抱里——社会、城市、社区就是总体上远比我们聪明而可触达的东西；合成形态的超级智能到来时不会号角齐鸣，图灵测试被攻克那天’就那么发生了，没人在乎’

① 提到它的金句

3 条

一旦我们达到超级智能，可能就太晚来对齐模型了。
Once we get to superintelligence, it will be too late to align the models probably.
—— Benjamin Mann · [42:49]

指向原始笔记的链接

我认为在短短几年内达到某种超级智能的 50% 的概率大概是合理的。
I think 50th percentile chance of hitting some kind of superintelligence in just a small handful of years is probably reasonable.
—— Benjamin Mann · [46:13]

指向原始笔记的链接

我们一辈子都活在超级智能的怀抱之中。
We are living in the presence of superintelligence our entire lives.
—— Tobi Lütke · [29:27]

指向原始笔记的链接

② 出现在这些集

4 集

• 《Anthropic 联合创始人：安全为什么不是添头，而是 Claude 性格的来源》 — 作为概念
• 《Nick Bostrom：智能体破笼之后，我们还能驾驭AI吗》 — 作为概念
• 《超级智能为什么危险：Ryan Greenblatt 的推演与解法》 — 作为概念
• 《Shopify CEO Toby：一半代码来自聊天群里的 AI 同事》 — 作为概念

③ 关联

点进去有真内容 —— 本页主要出口

智能体 · Anthropic · OpenAI · 对齐 · Meta · Hugging Face · Lenny · Alex · Ryan Greenblatt · Tobi Lütke