熵 (entropy)
集里怎么说它
- 《故意让人手不足:Rippling 首席产品官的非常规管理心法》(60:42起):本集将其引申为系统自然趋于混乱和局部舒适的倾向。嘉宾强调,对抗熵的唯一解药就是能量,高管必须每时每刻保持最高强度的精力注入(如不断提供反馈、不放过每个 Bug),才能防止系统衰变。
- 《用物理设计新材料:Max Welling 的 AI for Science 双向之路》(36:56起):本集说在物理学里熵感觉像是系统的真实属性(从能量里减去熵才得到自由能),但在贝叶斯统计里它描述的就是你不知道的东西;E.T. Jaynes 的观点是物理学里的熵也精确描述了你关于世界缺失的所有信息
- 《鼠标力:为智能体时代找回「马力」这把尺子》(15:57起):本集借 Claude Shannon 关于熵(概率分布的不确定性)的思想构建二维矩阵:x 轴是执行步骤的不确定性,y 轴是验收标准的不确定性,中间地带才是派智能体的甜蜜点。
① 提到它的金句
3 条
我的意思是,似乎像沉积物在公司内部堆积,官僚主义是组织的熵的自然形式。
指向原始笔记的链接
I mean, there seems to be like sediment builds up inside the company and bureaucracy is the natural sort of like entropy of an organization.
—— 嘉宾 · [06:35]
扩散模型其实就是一个把结构取来并毁掉的过程,这通常是世界上发生的事,熵随之上升;然后我们尝试在时间上逆转它——从噪声出发创造结构,这就是我们的生成模型。
指向原始笔记的链接
So diffusion models really are a process by which you take structure and you destroy it, which is typically what happens in the world. The entropy goes up. And then we try to reverse that backward in time, which is to start with noise and create structure, which is our generative models.
—— Max Welling · [41:02]
热和功、熵产生这些概念,我们谈论机器学习模型时并不使用,但我认为它们为思考正在发生什么、以及如何改进模型,提供了一个非常新颖且有趣的视角。
指向原始笔记的链接
Concepts like heat and work and entropy, production, these things we don’t use when we talk about machine learning models, but I think they give you a very new and interesting perspective on how to think about what’s going on and how to also improve them.
—— Max Welling · [45:03]
② 出现在这些集
3 集
- 《故意让人手不足:Rippling 首席产品官的非常规管理心法》 — 作为概念
- 《用物理设计新材料:Max Welling 的 AI for Science 双向之路》 — 作为概念
- 《鼠标力:为智能体时代找回「马力」这把尺子》 — 作为概念
③ 关联
点进去有真内容 —— 本页主要出口
智能体 · Matt MacInnis · Sam Charrington · Maximillian Piras · Lenny · Max Welling · Utori · Amar · cusp.ai · 计算机使用模型
