红队测试 (red teaming)
概念
出现在 1 集 · 金句 0 条 · 关联 10 个
集里怎么说它
- 《神话之后的红队评估 — Zico Kolter与Matt Fredrikson，Gray Swan》(08:06起):通过刻意构造对抗性输入来探测系统弱点的测试方法，也是了解模型真实最大能力极限和绕过模型自我伪装的关键手段。
出现在这些集
关联实体
Zico Kolter · Matt Fredrikson · Gray Swan · Snowflake · 红队竞技场 · Shade · Signal · OpenClaw · 提示词注入 · 间接提示词注入