混沌
混沌边缘 (edge of chaos)
概念
本站收录 1 集 · 2 条金句 · 关联 10 个
集里怎么说它
- 《用物理设计新材料:Max Welling 的 AI for Science 双向之路》(52:34起):本集说把神经网络看作动力系统,太稳定信息塌缩到一个点(内爆梯度),太不稳定进入混沌(爆炸梯度),最好的状态是中间的混沌边缘;引入波之后网络天然就落在这个区域,不需要刻意调参
① 提到它的金句
2 条
所以你真正想要的是处在中间某处——不太稳定也不太不稳定——这叫混沌边缘。人们已经发现,事实上表现最好的神经网络就在这个混沌边缘上运行。
指向原始笔记的链接
So what you really want is sitting somewhere in the middle, somewhere that’s not too stable and not too unstable, and that’s called edge of chaos. And people have found that, in fact, neural networks that perform best operate at this edge of chaos.
—— Max Welling · [52:34]
我们还发现,如果在神经网络中加入这些波,你会非常自然地运行在混沌边缘,而不必微调系统去凑到那里。
指向原始笔记的链接
And we found that if you include these waves in your neural network, you very naturally operate in this regime edge of chaos, and you don’t have to fine-tune the system to be there.
—— Max Welling · [52:58]
② 出现在这些集
1 集
③ 关联
点进去有真内容 —— 本页主要出口
Sam Charrington · Max Welling · cusp.ai · 智能体 · 等变性 · 扩散模型 · 自发对称性破缺 · 波 · 机器学习力场 · 分子动力学
