AGI
集里怎么说它
- 《Mustafa Suleiman:数据是新的护城河——AI 创业者的机会地图》(05:47起):在所有层面超越人类能力与知识的系统;Mustafa 提醒通用性只是假设之一,且 AGI 总是「我们还没有的那个 AI」,是挂在前面引诱前进的胡萝卜。
- 《Peter Deng:产品不必是最重要的东西》(07:31起):本集提及 AGI 只是必要条件但非充分条件,很多价值仍然需要大量建设者的努力,才能真正将这种新能源引导成人类喜欢使用的东西。
- 《Dan Shipper:15人零手写代码,AI原生公司怎么运转》(14:38起):本集说 Dan 对 AGI 的定义是:什么时候让智能体无限期运行在经济上变得有利可图,就像一个永远不关机的 Claude Code 一直在做有用的事
- 《10亿收入不到100人:数据公司 Surge AI 如何逆行塑造 AI 未来》(01:14起):本集讨论数据评估需求的时间线时提及;嘉宾认为当前行业正将 AGI 推向错误方向,并持保守态度,认为距离实现还有几十年。
- 《Marc Andreessen:AI 是现代炼金术,为什么你不是在失业而是在变贵》(82:18起):本集说通俗定义是 AI 能像人一样好地完成所有经济相关任务,但人类智商因生物学限制封顶在约 160,机器没有这个限制,所以「人类同等水平」只会是一个脚注
- 《一年增长十倍、连线性图表都过时了:Anthropic 增长负责人的内部视角》(16:14起):本集以略带玩笑的口吻提及,表示即使未来实现了 AGI,想要让六个人在一个房间里达成一致仍然是不可能的。
- 《AI 会改变一切,但也「只和互联网一样大」》(26:03起):本集说这个概念正在被不断重新定义(比如指能做一定比例经济价值工作的机器),并指出我们其实无法预测它是否会达到人类智能水平。
- 《Wix CEO Avishai:SaaS 末日下,我们凭什么值钱》(50:56起):嘉宾过去 12 个月最大的转变:现在认为 AI 取代人类会比预想慢得多——大家嘴上说实现了 AGI,却做不了真正关键的大问题,「我们在改定义去迁就它」。
- 《Benedict Evans:AI 价值会落在哪一层?》(08:12起):本集把 AGI 会不会来当成古巴导弹危机里那位交易员的二元赌注:真发生了,我们有比中产失业更大的问题;没发生,就回来老实分析企业软件;并借 Anselm 的证明批评’把它定义为全能所以全能’的论证方式。
- 《「智能是数据的派生物」:Fireworks 创始人 Lin Kuo 的专用智能宣言》(08:43起):本集把 AGI 定义为「存在某一个模型,能以最好的方式解决所有问题」,Lin 明确说这样的世界不会到来,并把通用大模型比作输电线——重要但不会取代一切。
- 《AI 繁荣若崩塌:数据中心债务、AGI 囤积与市场清算》(09:26起):本集把它说成:一种要么赢者通吃要么全盘皆输的终极叙事(AGI 或破产),但嘉宾指出随着模型路径多元化,如今除了 OpenAI 和 Anthropic 几乎没人再信这套。
- 《Sam Altman 谈 AI 时代的创业法则:被全世界当成白痴是最大优势》(00:21起):本集把它说成:OpenAI 一开始决心奉献一生去创造的目标,十年前被业界主流视为错误且会引发 AI 寒冬,如今被视为商业与社会史上最重要的事。
- 《Transformer 已见顶?OpenAI 与 Google 双雄离职造新架构》(05:32起):本集将其重新定义为:一个能够在没有任何人类参与循环的情况下,完全靠自己与现实世界交互来不断自我改进和学习的模型。
- 《红杉合伙人 David Cahn:AI 需赚回 4 万亿,这场棋局没有中间态》(13:13起):本集把它说成:只有 AGI(通用人工智能)能填平 AI 行业 4 万亿美元的资本支出窟窿,八大科技巨头都在为争夺 AGI 的控制权而下注
- 《巨头财报季:AI 军备竞赛下的供应链、会计戏法与路线分歧》(01:48起):本集提到 Demis 等人认为当前的 LLM 技术不足以直达 AGI,要达到人类水平的 AI 还需要另外几个突破。
- 《AI 投资泡沫的崩盘剧本:为什么万亿美元建数据中心注定亏钱》(30:48起):本集把它说成:当所有经济论据失效时的万能牌(像永生的看涨期权一样无穷大),被当作「填补空白的上帝」插进所有算不过账的空白里。
- 《棋盘上的 AGI 启示录:Chess.com 创始人谈 AI、作弊与人类技能的未来》(36:51起):本集把它说成:超人类智能,它能用于善也能用于恶,走向取决于掌权者的选择,因此更需要设立护栏和互动规则。
- 《Nick Bostrom:智能体破笼之后,我们还能驾驭AI吗》(37:06起):本集说如果 AGI 指能完成人类所有认知任务的系统,那我们还没到,在物理操作灵巧度、研究品味、持续学习等方面 AI 仍然不如人类
- 《大科技3万亿表外赌注与Anthropic反超OpenAI》(28:35起):本集将所有 AI 支出框架化为「一张 AGI 的看涨期权」——如果 AGI 到了钱花得值,如果没到就会有清算,但问题在于所有人都在下同样的杠杆赌注
- 《给智能体建一个“人力资源部”:TrustWise 创始人谈运行时治理》(08:05起):本集说实现 AGI 的真正数据在企业手里(策略、上下文、业务规则),不在模型提供商手里
- 《PG 炉边谈话:创业的核心从来没变过》(14:56起):本集说 AGI 原以为是条清晰的终点线,跨过去一切分明;但站上去才发现它有宽度——是一道模糊的 smear,AI 在不同任务上参差不齐,能解数学难题却查不到餐馆营业时间
- 《OpenAI 总裁 Greg Brockman:我们已进入 AGI 时代,而真正的瓶颈不是模型》(00:00起):本集核心主题:Greg 说 2016/2017 年与 Ilya 推算 10-15 年到 AGI 基本押中,如今「我们处于 AGI 时代」,但 AGI 更像模糊光谱而非时间点。
① 提到它的金句
14 条
AGI 只是必要条件但非充分条件。很多价值仍然需要大量建设者的努力,才能真正将这种新能源引导成我们人类喜欢使用并解决我们某些问题的东西。
指向原始笔记的链接
AGI is just necessary but not sufficient. A lot of the value is still going to require a bunch of hustle from a lot of builders to really turn that new source of energy and channel it into something that we humans want to use that solves some of our problems.
—— Peter Deng · [08:15]
所以我认为 AGI 的一个好的定义是,什么时候让智能体无限期地运行在经济上是变得有利可图的?
指向原始笔记的链接
And so I think a good definition of AGI is when does it become economically profitable for people to run agents indefinitely?
—— Dan Shipper · [17:22]
我觉得 AGI 更多是一个营销术语,而不是科学术语,作为科学家而非技术专家来说。
指向原始笔记的链接
I feel AGI is more a marketing term than a scientific term as a scientist than technologist.
—— Dr. Fei-Fei Li · [25:47]
我们将会有 AGI,而且让六个人在房间里达成一致仍然是不可能的。
指向原始笔记的链接
We will have AGI and it will still be impossible to get six people in a room to get to align.
—— Amol Avasare · [38:05]
我感觉要么是,你知道,你全押进去并构建 AGI,那将值一大笔钱,要么就不干。我看不到中间地带。
指向原始笔记的链接
I feel like it’s either, you know, you go all in and you’re going to build AGI and that’ll be worth a ton of money or you don’t. I don’t see the middle ground.
—— Alex · [15:48]
因为你达到 AGI 却仍然输掉的唯一方式,就是如果你让那个 AGI 可供其他人使用。
指向原始笔记的链接
Because the only way you reach AGI and still lose is if you make that AGI available to others.
—— Alex · [23:31]
是的,我们过去常开玩笑说,世界上只有 50 个人相信 AGI 是可能的,但这没关系,因为其中有 45 个人在 OpenAI 工作。
指向原始笔记的链接
Yeah, we used to joke that only 50 people in the world believed that AGI was possible, but it was okay because 45 of them worked at OpenAI.
—— Sam Altman · [15:03]
对我来说,AGI 是一个可以在没有任何人在循环中的情况下自我改进的模型。
指向原始笔记的链接
For me, AGI is a model that can improve itself without human in the loop in any way.
—— Jerry Tworek · [38:21]
只有 AGI 才足以证明未来十年提议的投资是合理的。
指向原始笔记的链接
Nothing short of AGI will be enough to justify the investments now being proposed for the coming decade.
—— Alex · [13:21]
你可能会认为这还不是完全的 AGI,但它已经是一种不同的运行机制。
指向原始笔记的链接
You could argue that’s not quite AGI yet, but it is already a different operating regime.
—— Garry Tan · [13:49]
这是一个填补空白的上帝的论点。我插入 AGI 是因为现在这让我能够创造一个不可折现的看涨期权,我无法给它定价,因此我应该愿意花任何代价,而我拒绝这一点。
指向原始笔记的链接
This is a God of the gaps argument. I’m inserting AGI because now that allows me to create an undiscountable call option that I can’t price, therefore I should be willing to spend anything, and I reject that.
—— Paul Kedrosky · [40:01]
基本上,它的运作方式是所有的支出都是一张 AGI 的看涨期权。
指向原始笔记的链接
Basically, the way that it works is it’s what all the spending is a call option on AGI.
—— 嘉宾 · [28:35]
这就是为什么我不相信硅谷那些虚浮的东西,说什么,哦,我们要创造 AGI。当你没有政策来对齐结果应该是什么样子时,你要怎么创造它?
指向原始笔记的链接
And that’s why I don’t buy the Silicon Valley frou-frou stuff about, oh, we’re going to create AGI. How will you create it when you don’t have the policies to align what outcome looks like?
—— Manoj Saxena · [61:24]
我认为 AGI 事实证明不太像是一个时间点,而更像是一种模糊的光谱。
指向原始笔记的链接
Well, I think that AGI has turned out to be less of a point in time and more of this sort of fuzzy spectrum.
—— Greg Brockman · [39:00]
② 出现在这些集
22 集
- 《Mustafa Suleiman:数据是新的护城河——AI 创业者的机会地图》 — 作为概念
- 《Peter Deng:产品不必是最重要的东西》 — 作为概念(提及)
- 《Dan Shipper:15人零手写代码,AI原生公司怎么运转》 — 作为概念(提及)
- 《10亿收入不到100人:数据公司 Surge AI 如何逆行塑造 AI 未来》 — 作为概念(提及)
- 《Marc Andreessen:AI 是现代炼金术,为什么你不是在失业而是在变贵》 — 作为概念
- 《一年增长十倍、连线性图表都过时了:Anthropic 增长负责人的内部视角》 — 作为概念(提及)
- 《AI 会改变一切,但也「只和互联网一样大」》 — 作为概念(提及)
- 《Wix CEO Avishai:SaaS 末日下,我们凭什么值钱》 — 作为概念
- 《Benedict Evans:AI 价值会落在哪一层?》 — 作为概念
- 《「智能是数据的派生物」:Fireworks 创始人 Lin Kuo 的专用智能宣言》 — 作为概念
- 《AI 繁荣若崩塌:数据中心债务、AGI 囤积与市场清算》 — 作为概念
- 《Sam Altman 谈 AI 时代的创业法则:被全世界当成白痴是最大优势》 — 作为概念
- 《Transformer 已见顶?OpenAI 与 Google 双雄离职造新架构》 — 作为概念
- 《红杉合伙人 David Cahn:AI 需赚回 4 万亿,这场棋局没有中间态》 — 作为概念
- 《巨头财报季:AI 军备竞赛下的供应链、会计戏法与路线分歧》 — 作为概念(提及)
- 《AI 投资泡沫的崩盘剧本:为什么万亿美元建数据中心注定亏钱》 — 作为概念
- 《棋盘上的 AGI 启示录:Chess.com 创始人谈 AI、作弊与人类技能的未来》 — 作为概念
- 《Nick Bostrom:智能体破笼之后,我们还能驾驭AI吗》 — 作为概念
- 《大科技3万亿表外赌注与Anthropic反超OpenAI》 — 作为概念
- 《给智能体建一个“人力资源部”:TrustWise 创始人谈运行时治理》 — 作为概念(提及)
- 《PG 炉边谈话:创业的核心从来没变过》 — 作为概念
- 《OpenAI 总裁 Greg Brockman:我们已进入 AGI 时代,而真正的瓶颈不是模型》 — 作为概念
③ 关联
点进去有真内容 —— 本页主要出口
OpenAI · Anthropic · ChatGPT · Google · 智能体 · Lenny · Meta · NVIDIA · Microsoft · Claude Code
