跨国深谈← 返回←校准 (calibration)

集里怎么说它

• 《企业AI为什么卡壳:只有6%的大公司真正跑通了》(50:39起):本集讨论人机认知界面的开放研究：让 AI 知道什么节点才真正需要人类输入，token 级 logits 分布或许能延伸到智能体和任务层面的校准置信度。
• 《Jev 背后的人:Diogo 谈为什么 AI 应该像数据库而不是同事》(05:12起):可靠性、成本、校准、速度四者辩论之一;本集认为良好校准让阈值判断有意义,也谈到「人们需要的确定性≠需要的鲁棒性」
• 《一夜暴富的预测市场，凭什么说它不是赌博？》(16:26起):本集提到 Kalshi 发布校准研究：市场说 70% 概率的事是否十次发生七次，结果非常好，越临近结算日越接近 90 多的高位。
• 《AI 为什么这么聪明，却干不了保险核保？》(56:42起):本集说要拥有有意义的旋钮和阈值前提是概率被校准，在乎概率的长尾；并断言 RLHF/RLVR 极大破坏了模型校准。

① 提到它的金句

1 条

实际上，RLHF 和 RLVR 极大地破坏了模型的校准，因为要想把字符串输出好，你实际上需要极度过度自信。
Actually, RLHF and RLVR destroy the calibration of the models immensely because in order to output strings well, you actually need extreme overconfidence.
—— Diogo Almeida · [56:42]

指向原始笔记的链接

② 出现在这些集

4 集

• 《企业AI为什么卡壳:只有6%的大公司真正跑通了》 — 作为概念
• 《Jev 背后的人:Diogo 谈为什么 AI 应该像数据库而不是同事》 — 作为概念
• 《一夜暴富的预测市场，凭什么说它不是赌博？》 — 作为概念(提及)
• 《AI 为什么这么聪明，却干不了保险核保？》 — 作为概念

③ 关联

点进去有真内容 —— 本页主要出口

智能体 · 基准测试 · Diogo Almeida · Jev · TypeSafe · RLCD · RLHF · RLVR · OpenAI · Anthropic