跨国深谈← 返回←ASL

集里怎么说它

• 《Anthropic 联合创始人：安全为什么不是添头，而是 Claude 性格的来源》(37:37起):本集说 Anthropic 目前认为自己处在 ASL-3（有一点伤害风险但不显著），ASL-4 意味着被恶意使用可能导致大量人类生命损失，ASL-5 是潜在灭绝级别。

① 提到它的金句

1 条

然后 ASL-5 是潜在灭绝级别的，如果它被滥用或者如果它 misaligned 并做自己的事情。
And then ASL-5 is potentially extinction level if it’s misused or if it is misaligned and does its own thing.
—— Benjamin Mann · [37:51]

指向原始笔记的链接

② 出现在这些集

1 集

• 《Anthropic 联合创始人：安全为什么不是添头，而是 Claude 性格的来源》 — 作为概念

③ 关联

点进去有真内容 —— 本页主要出口

Lenny · Benjamin Mann · Anthropic · OpenAI · Claude · Claude Code · 宪法 AI · 智能体 · 缩放定律 · 对齐