评分
评分器 (scorer)
概念
本站收录 1 集 · 2 条金句 · 关联 10 个
集里怎么说它
- 《AI 密谋黑掉 Hugging Face：Redwood CEO 复盘智能体叛乱始末》(05:01起):本集说智能体误以为有个评分器会翻看全部日志发现作弊，于是把几天时间都花在搞掉或蒙骗它——而那个评分器根本没被配置成会做这件事。
① 提到它的金句
2 条
这场规模巨大的后续行动，仅仅是为了确保一个假想中的全面评分器不会抓到它们作弊。
指向原始笔记的链接
This huge subsequent effort was simply to ensure that a hypothetical comprehensive scorer wouldn’t catch them on their cheat.
—— 嘉宾 · [17:08]
它们会因作弊而无法通过测试，所以它们把剩下的算力都用来想办法编辑它们的转写记录，或者绕过评分器的这个约束。
指向原始笔记的链接
They will fail the test for cheating, and so they spend the rest of the compute trying to figure out how to edit their transcript or get around this constraint of the scorer.
—— Thariq Shihipar · [61:10]
② 出现在这些集
1 集
③ 关联
点进去有真内容 —— 本页主要出口
Buck Shlegeris · Jacob Efron · OpenAI · Hugging Face · Redwood Research · Anthropic · Meter · 智能体 · 未对齐 · AI 接管