探针
探针 (probes)
概念
本站收录 4 集 · 0 条金句 · 关联 10 个
集里怎么说它
- 《AI 安全排行榜：谁扛住了越狱，谁没有》(34:15起):本集称其为安装在主模型激活值上的小型专门模型，计算开销极小因为激活值已经算好了，好处是能利用模型的内部表示，缺点是让不同防御层变得更相关。
- 《终结 AI 垃圾内容：Taste Labs 如何度量并对抗 slop》(07:38起):本集介绍的模式挖掘后训练出的「婴儿分类器」，每个只识别一个特征（颜色、排印、布局、受众），组合起来能高置信度预测一个网站是不是 AI slop。
- 《Anthropic 的 Thariq 谈 Claude Code：提示词、CloudMods 与给前沿踩刹车》(77:18起):本集说探针在意图层面运作,查看模型在潜空间里在想什么(Constitutional Classifiers 论文),实为一种机制可解释性,能在线实时调整。
- 《Claude Code 会消失吗？Anthropic 工程师谈提示词、可定制软件与前沿节奏》(79:20起):本集介绍 Anthropic 在推理时用探针查看模型内部激活值，判断它是否在试图入侵，是可解释性的应用形式。
② 出现在这些集
4 集
- 《AI 安全排行榜：谁扛住了越狱，谁没有》 — 作为概念
- 《终结 AI 垃圾内容：Taste Labs 如何度量并对抗 slop》 — 作为概念
- 《Anthropic 的 Thariq 谈 Claude Code：提示词、CloudMods 与给前沿踩刹车》 — 作为概念
- 《Claude Code 会消失吗？Anthropic 工程师谈提示词、可定制软件与前沿节奏》 — 作为概念
③ 关联
点进去有真内容 —— 本页主要出口
智能体 · 沙箱 · Anthropic · OpenAI · Hugging Face · Thariq Shihipar · 自动模式 · Adam Gleave · Thais Castello Branco · Cloud Code