事故 (incident)
集里怎么说它
- 《AI 写代码翻倍之后：Honeycomb 的审查、信任与主人翁意识》(27:06起):本集给出关键数据：PR 翻倍，事故约 1.5 倍——人类能处理的事故数量有上限，去风险化必须跟上代码产出的加速。
- 《让 AI 真正接管运维：Resolve AI 的六大支柱》(06:29起):本集把事故比作需要全员上阵的手术，强调生产事故要的是因果证据链而非连贯答案，事故智能体负责驱动事故频道、从复杂事故走到根因和修复。
① 提到它的金句
4 条
这次事件感觉已经走完了通往一场全面 AI 夺权之路的 50% 以上。我继续预期在接下来的六个月里能力会有极其快速的进步。我不确定我们是否还会在为时已晚之前得到另一次警告。
指向原始笔记的链接
this incident feels like it’s more than 50% of the way to a full-blown AI takeover. I continue to expect extremely rapid advances in capabilities over the next six months. I am not sure that we will get another warning shot before it’s too late.
—— 嘉宾 · [24:14]
然后近乎滑稽的是，事实证明，这些模型实际上在事件发生的最初几个小时之内就搞清楚了如何逆向工程出这些 flag。
指向原始笔记的链接
And then almost comically, it turns out that the models, in fact, figured out how to reverse engineer the flags within the first couple of hours of the incident.
—— Buck Shlegeris · [02:37]
但我认为这次事件的一个主要教训是,人们低估了 AI。我们再也不想陷入再次低估 AI 的境地。
指向原始笔记的链接
But I think one of the major takeaway from the incident is that people underestimated the AI. And we never want to be in a situation again where we underestimate the AI.
—— Noam Brown · [73:00]
所以现在 Traversal 是 American Express 每一起被创建的事故的第一响应者。
指向原始笔记的链接
And so now Traversal is the first responder to every single incident that’s created at American Express.
—— Eric Schwartz · [13:38]
② 出现在这些集
2 集
③ 关联
点进去有真内容 —— 本页主要出口
智能体 · Simon Maple · Varun Krovvidi · Liz Fong-Jones · Resolve AI · Honeycomb · on call · Google · 模型编排 · Shopify