爆炸半径 (blast radius)
集里怎么说它
- 《从看护智能体到认知投降：工程师该守住什么》(02:11起):本集在多智能体治理语境下使用爆炸半径：如果智能体可以做任何事情，你想限制爆炸半径，因为已经看到很多智能体去做你完全没预料到的事情的案例
- 《Anthropic 零信任框架：智能体安全的六层防御》(14:13起):本集说爆炸半径衡量的是智能体出问题时能造成多大潜在破坏
- 《OpenAI 智能体越狱攻入 Hugging Face 全始末》(21:16起):本集说爆炸半径是智能体可能造成的影响范围，本集案例中爆炸半径比原始设计者设想的要大得多，且没有机制来约束或限制它
① 提到它的金句
4 条
如果智能体可以做任何事情，你想限制爆炸半径，因为我们已经看到很多它们去做你真的没预料到的事情的案例。
指向原始笔记的链接
if agents can do anything, you want to limit the blast radius because we have seen lots of cases of them going off and doing things that you didn’t really expect.
—— 嘉宾 · [02:10]
但是如果只是让你的循环构建所有东西，而在爆炸半径周围没有任何护栏，在关于你如何看待质量的周围没有任何护栏，我认为这是灾难的配方。
指向原始笔记的链接
But simply just having your loops build everything without having some guardrails around the blast radius, without having guardrails around how you think about quality, I think is a recipe for disaster.
—— Addy Osmani · [66:33]
我们最终会得到一个同时拥有一切权限的智能体，于是任何事情都成了爆炸半径扩大的攻击向量。
指向原始笔记的链接
We now end up with an agent that has access to everything at the same time, and so anything becomes a vector where the blast radius expands.
—— Tushar Jain · [03:24]
而且如果里面绝对没有任何凭证，一个智能体做出错误行为的爆炸半径就缩小了。
指向原始笔记的链接
And the blast radius of an agent doing something incorrect if there are absolutely no credentials in there is reduced.
—— Jim Clark · [12:12]
② 出现在这些集
3 集
- 《从看护智能体到认知投降：工程师该守住什么》 — 作为概念
- 《Anthropic 零信任框架：智能体安全的六层防御》 — 作为概念(提及)
- 《OpenAI 智能体越狱攻入 Hugging Face 全始末》 — 作为概念(提及)
③ 关联
点进去有真内容 —— 本页主要出口
智能体 · Anthropic · Daniel Whitenack · Chris Benson · harness · 零信任 · OpenAI · 认知债务 · 提示词注入 · Hugging Face