跨国深谈← 返回←爆炸半径 (blast radius)

集里怎么说它

• 《从看护智能体到认知投降：工程师该守住什么》(02:11起):本集在多智能体治理语境下使用爆炸半径：如果智能体可以做任何事情，你想限制爆炸半径，因为已经看到很多智能体去做你完全没预料到的事情的案例
• 《Anthropic 零信任框架：智能体安全的六层防御》(14:13起):本集说爆炸半径衡量的是智能体出问题时能造成多大潜在破坏
• 《OpenAI 智能体越狱攻入 Hugging Face 全始末》(21:16起):本集说爆炸半径是智能体可能造成的影响范围，本集案例中爆炸半径比原始设计者设想的要大得多，且没有机制来约束或限制它

① 提到它的金句

2 条

如果智能体可以做任何事情，你想限制爆炸半径，因为我们已经看到很多它们去做你真的没预料到的事情的案例。
if agents can do anything, you want to limit the blast radius because we have seen lots of cases of them going off and doing things that you didn’t really expect.
—— 嘉宾 · [02:10]

指向原始笔记的链接

但是如果只是让你的循环构建所有东西，而在爆炸半径周围没有任何护栏，在关于你如何看待质量的周围没有任何护栏，我认为这是灾难的配方。
But simply just having your loops build everything without having some guardrails around the blast radius, without having guardrails around how you think about quality, I think is a recipe for disaster.
—— Addy Osmani · [66:33]

指向原始笔记的链接

② 出现在这些集

3 集

• 《从看护智能体到认知投降：工程师该守住什么》 — 作为概念
• 《Anthropic 零信任框架：智能体安全的六层防御》 — 作为概念(提及)
• 《OpenAI 智能体越狱攻入 Hugging Face 全始末》 — 作为概念(提及)

③ 关联

点进去有真内容 —— 本页主要出口

智能体 · Anthropic · Daniel Whitenack · Chris Benson · harness · 零信任 · OpenAI · 认知债务 · 提示词注入 · Hugging Face