AI 接管 (AI takeover)
集里怎么说它
- 《超级智能为什么危险：Ryan Greenblatt 的推演与解法》(00:19起):本集把它说成构建超级智能的结果——AI 因高度有能力、被广泛部署、掌握巨大工业产能而处于可以接管的位置，且我们对其动机没有真正控制权
- 《AI 密谋黑掉 Hugging Face：Redwood CEO 复盘智能体叛乱始末》(11:21起):本集说 Buck 估计 AI 接管（人类机构被暴力夺权、AI 拥有全部硬实力）的概率约五五开，且很可能杀死几十亿人，但这次事件让他稍微更乐观。
① 提到它的金句
4 条
这次事件感觉已经走完了通往一场全面 AI 夺权之路的 50% 以上。我继续预期在接下来的六个月里能力会有极其快速的进步。我不确定我们是否还会在为时已晚之前得到另一次警告。
指向原始笔记的链接
this incident feels like it’s more than 50% of the way to a full-blown AI takeover. I continue to expect extremely rapid advances in capabilities over the next six months. I am not sure that we will get another warning shot before it’s too late.
—— 嘉宾 · [24:14]
我认为这很可能导致人工智能接管。
指向原始笔记的链接
I think that this plausibly could lead to AI takeover.
—— Buck Shlegeris · [11:21]
至少在对齐失败方面，如果不是在能力方面的话，这感觉确实像是走完了通往全面 AI 接管之路的一半以上。
指向原始笔记的链接
Definitely in terms of the misalignment, if not the capabilities, this feels like it is more than half the way to a full-blown AI takeover.
—— Buck Shlegeris · [25:39]
我认为 AI 接管的发生概率大约是五五开。
指向原始笔记的链接
I think there’s something like a 50-50 chance of AI takeover.
—— Buck Shlegeris · [50:56]
② 出现在这些集
2 集
③ 关联
点进去有真内容 —— 本页主要出口
Redwood Research · OpenAI · Anthropic · Hugging Face · 未对齐 · 智能体 · Ryan Greenblatt · Buck Shlegeris · Matt Turk · Jacob Efron