LO
LoRa
概念
本站收录 1 集 · 1 条金句 · 关联 10 个
集里怎么说它
- 《Tether 做本地 AI:数据中心造太多了》(27:07起):本集说 LoRa(low rank adaptation)是做微调最好的技术,只调整模型一小部分权重就能定制化,QVAC 基于此建了通用微调框架
① 提到它的金句
1 条
所以在稳态下,一个更大的语言模型大概总是会胜过更小的模型,但小模型用 LoRA 微调足够便宜,以至于在足够窄的语料库上,你也可以非常快地微调一个小模型,让它在个性化语料库上变得更好,并为特定任务对模型进行个性化。
指向原始笔记的链接
And so a larger language model will probably always outperform a smaller one at steady state, but the smaller ones are cheap enough to fine tune using LoRa that on narrow enough corpuses, you can very quickly also fine tune a small model on a narrow corpus and make it better at individualized corpuses and personalize the model for specific tasks.
—— Hamad Bashir · [32:22]
② 出现在这些集
1 集
- 《Tether 做本地 AI:数据中心造太多了》 — 作为概念
③ 关联
点进去有真内容 —— 本页主要出口
Paolo Ardoino · Tether · QVAC · 推理 · 微调 · BitNet · 数据中心 · 去中介化 · 智能体 · GPU
