权重 (weights)
集里怎么说它
- 《把训练好的模型当数据喂给模型：权重空间学习》(01:12起):本集把权重描述为神经网络的 DNA，是一种输入模态，可以像语言模型吃文本、图像模型吃像素一样被另一个模型来’吃’，从中分析和生成新权重
① 提到它的金句
8 条
所以杠杆不在于权重，而在于你如何连接工作。
指向原始笔记的链接
So the leverage is not in the weights, it’s in how you wire the work.
—— Garry Tan · [03:17]
一旦模型发布，你就拥有对权重的完全控制。你可以随意修改它。它是你的。
指向原始笔记的链接
Once the model is released, you have the full control of the weights. You can change it however you want. It’s yours.
—— Lin Qiao · [13:52]
不要仅仅把这些权重视为训练过程的终点，如果它们也是下一个过程的起点呢？
指向原始笔记的链接
Instead of treating those weights just as the end of the training process, what if they’re also the beginning of the next one?
—— Sam Charrington · [01:12]
我们正在耗尽数据来训练大模型，但我们没有在使用旧模型的权重。所以为什么不使用权重，所有的知识，人们投入的所有算力，对吧？
指向原始笔记的链接
We’re running out of data to train the large models, but we’re not using the weights of older models. So why not using the weights, all the knowledge, all the compute that people invested, right?
—— Damian Borth · [30:39]
但杠杆不在于权重。而在于你给它什么样的上下文，它有多相关，以及它是否发生在正确的步骤。
指向原始笔记的链接
But the leverage is not in the weights. It’s in what context you give it, how relevant it is, and does it happen at the right step.
—— Garry Tan · [10:15]
我认为更好的是，如果你拥有一个受益于向开放权重转型的AI产品，除了今天前后90天之外，没有更好的出售时机了。
指向原始笔记的链接
I think even better, if you have an AI product that’s benefiting from the transition to open weights, there can’t be a better time to sell than plus or minus 90 days from today.
—— 嘉宾 · [42:42]
所以一般来说，我想说开放权重实际上是 AI 生态系统中非常重要的一部分，以至于我认为它被错误地框定成了与闭源权重的零和博弈。
指向原始笔记的链接
So like open weights in general, I would argue is actually a very important part of the AI ecosystem, so much so that I think it’s actually kind of misframed as zero sum with closed weights.
—— Aaron Levie · [02:05]
想象一下以现价的十分之一运行 Kimi K2。这是可能的，就算不是便宜 90%,也能比标价便宜 80%,因为他们能拿到权重。如果人们拿不到可以使用的开放模型权重，创新就不会发生。
指向原始笔记的链接
Imagine running Kimi K2 at one-tenth the current price. It’s possible, if not 90%, then 80% off the list price, because they have access to the weights. If you don’t have access to open model weights people can use, no innovation happens.
—— Eric Simons · [23:09]
② 出现在这些集
1 集
- 《把训练好的模型当数据喂给模型：权重空间学习》 — 作为概念
③ 关联
点进去有真内容 —— 本页主要出口
Sam Charrington · Damian Borth · Hugging Face · 权重空间学习 · 自编码器 · 模糊权重 · 窗口化 · 分词 · 数据集提示 · 神经架构搜索