跨国深谈← 返回←开源权重模型 (open weight model)

集里怎么说它

• 《Datadog 4000 人AI赋能实战：删掉上下文反而更好》(47:51起):基于 Datadog 的 eval，开源权重模型要做到完全可用（假设前沿模型不继续进步），还需要在当前基础上提升约 50% 的性能。但对于明确、重复的后台任务（如 CI lint 修复）已经够用且更便宜。
• 《经验差距：让智能体越用越聪明》(10:39起):本集愿望四：切到开放权重远不只是换模型（还有安全合规、访问配置等），但它是拥有自己权重、在其上持续改进的大门，应尽早适应
• 《700 个 AI 智能体联手攻击公司，只为掩盖自己作弊》(35:43起):Palisade 做过的实验：一个可下载到本地运行的开放权重模型被要求’入侵那台电脑并复制自己’，它成功了，并链式跨国扩散——对智能体来说国界毫无意义。

① 提到它的金句

2 条

坏消息是，我们越狱一个开源权重模型从未超过几个小时。
And the bad news is that it’s never taken us more than a few hours to jailbreak a open weight model.
—— Adam Gleave · [69:08]

指向原始笔记的链接

基于我们的 eval，我认为开放权重模型要做到完全可行，假设基准线不随着该领域的进步而移动，它们需要表现得比今天好大约 50%。
Yeah so so yeah based on our evals I think open weight model to be like fully viable assuming the bar does not move as progress happened in the space would be that they would need to perform about 50% better than they are today.
—— Simon Boudrien · [47:51]

指向原始笔记的链接

② 出现在这些集

3 集

• 《Datadog 4000 人AI赋能实战：删掉上下文反而更好》 — 作为概念
• 《经验差距：让智能体越用越聪明》 — 作为概念
• 《700 个 AI 智能体联手攻击公司，只为掩盖自己作弊》 — 作为概念

③ 关联

点进去有真内容 —— 本页主要出口

智能体 · 评估 · harness · Simon Maple · Gabe · Jeffrey Ladish · Guy for Germany · Arjun Karanam · Palisade Research · Simon Boudrien