大语
大语言模型 (large language models)
概念 · 又名 large language models / large language model
本站收录 11 集 · 2 条金句 · 关联 10 个
集里怎么说它
- 《Peter Deng：产品不必是最重要的东西》(20:01起):本集说人工智能的突破来自于大语言模型，这很有趣也有点诗意，因为语言中封装和塑造了如此多的知识。
- 《Rich Sutton：LLM 不是全部智能，真正的AI必须持续学习》(07:28起):本集说大语言模型既是苦涩的教训的正面例子（靠算力吸收互联网），也是反面例子（互联网有限而世界大得多）；它们声称能造出博士水平专家但运行时权重完全不更新
- 《用嘴巴做游戏：品味才是新的编程语言》(11:16起):本集说 LLM 内置了游戏史和评论,可以一句话生成游戏;但它是非确定性的、爱猜、向均值回归,给出最平均常见的设计,所以调参数需要确定性的编辑器,独特性要靠人的品味。
- 《给 AI 装上「自我怀疑」：剑桥教授 30 年的不确定性智能之路》(09:08起):本集说大语言模型在做 next token prediction 时没有显式的置信度表示，概率隐式散布在数十亿参数的激活值里，所以你反驳它一句它就改口
- 《智能体缺的那一层：让 AI 顺畅访问开放网络的抓取基建》(09:21起):本集强调要先验证内容再喂给大语言模型:开 10 个网站只有 3 个有效却全喂进去,等于浪费 70% 的 token;模型虽能分辨验证码,但分辨本身要花 token。
- 《Legora：三个非律师如何造出法律AI操作系统》(00:58起):本集开头说审视法律行业时，感觉这是应用大型语言模型解决实际问题最大的机会之一。
- 《让 AI 智能体替我买耳机：一场智能体商务的完整实操》(10:42起):本集把 LLM 比作智能体的大脑,是负责做决策的部分。
- 《开源的钟摆摆向另一边：Cal.com 联合创始人 Pierre 谈 AI 时代的安全崩塌》(11:05起):本集说现在有的大语言模型在渗透测试方面非常擅长;「最好的想法获胜」变成了「最好的大语言模型获胜」
- 《从高中辍学到 Autodesk CEO:Andrew Anagnost 的「杀死自己业务」领导哲学》(23:08起):本集讨论「大语言模型不是要取代那个世界吗」:在他的行业里「大概对就是错」,用横向工具解决纵向问题要靠复杂循环和大量提示词、烧掉大量算力,所以不迷信通用大模型。
- 《语音智能体不一定要说话:OpenAI 的三种语音交互模式》(09:28起):在可访问性主题下：失去手部灵巧的开发者在大语言模型、编码智能体和语音智能体到来后，生成代码多了几个数量级
- 《GPU 之后是什么：内存短缺、光子学与摩尔定律的尽头》(06:12起):本集说大语言模型仍是’暴力破解’式的笨办法、价值有限，并给出 hottest take：十年后我们会像笑拨号上网的哔哔声一样笑今天的 LLM——它是 AI 界的拨号上网。
① 提到它的金句
2 条
因为 LLM 在所有东西上都训练过，有时会出现向均值回归、向平均值回归的情况。
指向原始笔记的链接
Because large language models have been trained on everything, there is a reversion to the mean, to the average sometimes.
—— Jason · [12:59]
我认为十年后，我们会以完全相同的方式谈论大语言模型——它很大程度上就是一种暴力穷举的方法。
指向原始笔记的链接
I think in 10 years from now, we’re going to talk about large language models, which are very much a brute force approach in exactly the same way.
—— Steven · [12:22]
② 出现在这些集
11 集
- 《Peter Deng：产品不必是最重要的东西》 — 作为概念(提及)
- 《Rich Sutton：LLM 不是全部智能，真正的AI必须持续学习》 — 作为概念
- 《用嘴巴做游戏：品味才是新的编程语言》 — 作为概念
- 《给 AI 装上「自我怀疑」：剑桥教授 30 年的不确定性智能之路》 — 作为概念
- 《智能体缺的那一层：让 AI 顺畅访问开放网络的抓取基建》 — 作为概念
- 《Legora：三个非律师如何造出法律AI操作系统》 — 作为概念(提及)
- 《让 AI 智能体替我买耳机：一场智能体商务的完整实操》 — 作为概念(提及)
- 《开源的钟摆摆向另一边：Cal.com 联合创始人 Pierre 谈 AI 时代的安全崩塌》 — 作为概念
- 《从高中辍学到 Autodesk CEO:Andrew Anagnost 的「杀死自己业务」领导哲学》 — 作为概念
- 《语音智能体不一定要说话:OpenAI 的三种语音交互模式》 — 作为概念
- 《GPU 之后是什么：内存短缺、光子学与摩尔定律的尽头》 — 作为概念
③ 关联
点进去有真内容 —— 本页主要出口
智能体 · OpenAI · ChatGPT · Copilot · Cursor · 后训练 · AGI · 持续学习 · 开源 · 护栏