跨国深谈← 返回←机制可解释性 (mech interpretability)

集里怎么说它

• 《丰裕的概率：为什么「先担心安全」是本末倒置》(07:34起):本集说 AI 因可查看权重而比人脑更可解释、更可引导，且能力提升会带来更好的机制可解释性，所以不应该推迟能力提升

① 提到它的金句

1 条

一个是，随着能力提升，我们可能会拥有比想象中更好的机制可解释性，而能力提升会带来更好的机制可解释性，这意味着我们不应该推迟能力提升。
One is that we will probably have better mech interpretability than we think as capabilities improve and that capability improvement will lead to better mech interpret, which means we should not delay capabilities improvements.
—— Eddy Lazzarin · [07:34]

指向原始笔记的链接

② 出现在这些集

1 集

• 《丰裕的概率：为什么「先担心安全」是本末倒置》 — 作为概念

③ 关联

点进去有真内容 —— 本页主要出口

Theo Jaffe · Eddy Lazzarin · AI 安全 · 对齐 · 超级智能 · 欺骗性对齐 · 开源 · 有效利他主义 · 网络安全 · 去中心化