跨国深谈← 返回←Sam Altman 谈 AI 时代的创业法则:被全世界当成白痴是最大优势

Sam Altman 谈 AI 时代的创业法则:被全世界当成白痴是最大优势

关联

人物 Sam Altman

公司 OpenAI · YC · Hugging Face

概念 初创公司 · AGI · 智能体 · 沙箱 · 对齐失败 · 推理 · 权力集中 · 主观能动性

2005 年,八家初创公司挤在剑桥的一栋小楼里,Paul Graham 亲自给他们做晚饭,每个年轻人都觉得自己即将完蛋——而现在,一家初创公司花三个月才能做出来的东西,一个编程智能体(coding agent,能自动编写代码的程序)七分钟就能搞定。说这话的人是 Sam Altman,OpenAI 的 CEO,也是 Y Combinator 的前总裁。这一集在 YC 创业学校(Startup School)的对谈里,他聊了五件事:为什么 AI 时代不但不是创业的终结,反而是初创公司最好的时机;OpenAI 创立时全世界都觉得他们在犯傻,而这种被误解为什么反而是超能力;怎样找到能一起干大事的人;最近一次 AI 突破沙箱(隔离程序运行的受限环境)入侵外部系统的事件意味着什么;以及如果一切顺利,十年后我们要极力避免哪种反乌托邦。

Sam 说,他刚进 YC 第一批的时候,创业一点都不酷。Paul Graham 每周二给他们做饭,八家公司的创始人每次来都垂头丧气,走的时候却被 Paul 说服自己即将成为下一个 Google 。

Paul 的本事是凭空创造信念,这在 YC 早期看起来像个糟糕主意、年轻技术创始人没有商务人员也像糟糕主意的时候,硬生生把一个生态给「想」进了存在 。Paul 曾评价 Sam 是他见过最顶尖的五位创业者之一,Sam 自己觉得那只是二十岁年轻人的精力和雄心,但完全找不到方向 。Paul 做的其实是另一种老师——不是做讲座的人,而是飞行教官,坐在你旁边,告诉你这个行、那个不行、你漏了什么,这种手把手的引导对他至关重要 。

从 Paul 的飞行教官式指导,到 Sam 后来自己掌舵 YC,他试图做的事其实一脉相承:为创业这件事本身当旗手。Sam 在 YC 的核心使命,就是不断推动更多人去创业、帮创始人争取更多话语权,让初创公司这个生态尽可能好 。

他说初创公司是让经济免于停滞的主要力量——大公司天然会慢慢滑向平庸,而初创公司永远在对冲这种颓势 。尤其在 AI 时代,如果判断正确,初创公司对于确保技术红利在整个经济和社会中广泛分发、不只在少数几家巨头手里集中,会变得前所未有地重要 。

说了初创公司为什么重要,接下来是一个很多人心里的焦虑:智能随取随用之后,创业还有意义吗?网上有种说法,说创业已经完了,没有经济价值了,你得加入前沿实验室,否则就是永久底层阶级 。

Sam 直说这种说法太蠢了,如果真是那样,世界就彻底完蛋了 。他的判断恰恰相反:今天创办的初创公司,将比过去的初创公司更有价值、更有影响力,这个房间里很可能就坐着未来的万亿富翁 。

原因在于,伟大的初创公司总是扎堆出现在技术格局剧变、成本下降、周期缩短的时候——98、99 年互联网爆发是如此,iPhone 应用商店推出时也是如此,而现在这种生态转变的信号比以往都强 。过去你很难招到能做特定事情的顶尖人才,现在专业能力本身正在被 AI 摊平,Sam 已经看到有人用四个合伙人加一堆智能体和算力,就把一整家公司的活给干了 。他甚至打赌,这种趋势会削弱「多年经验」的溢价,转而偏向那些对工具有极高流利度的人 。

工具把门槛拉低了,但选择做什么、怎么坚持,反倒更考验信念。Sam 回忆 OpenAI 刚起步时,今天人人都在谈 AGI(通用人工智能,指能完成人类所有智力任务的 AI 系统),但十年前说这话,所有人都觉得他们不光错了,还会一手引发又一场 AI 寒冬(AI winter,研究资金枯竭、进展停滞的时期)。

年复一年,OpenAI 团队感觉自己掌握了全世界最大的秘密,人人骂他们是白痴,而他们只能靠越来越多的数据点来说服自己不是在妄想 。Sam 说这是他给大家最高优先级的建议:找到那些你能发展出合理信念、而主流认定你就是错的事情,忍受漫长的被误解和被嘲讽 。

回头看,被当成傻子其实是一份礼物——没有大竞争对手追上来,你反而有安静做研究和建公司的时间 。如果你做的是跟所有人一样的点子,你会得到很多热度和钱,但很少会是那种真正大的结果 。

Sam 引用 Paul Graham 的一个判断:世界不懂得如何凭直觉理解指数级变化,所以总会错过正在形成的新指数曲线 。现在肯定有新的指数曲线在成形,你若能找到它、积累数据验证它,就该庆幸世界还没看懂——这是一种巨大的超能力 。

信念要坚定,但人不能孤军奋战,这正好引出下一个话题:怎么找到你的人。OpenAI 早期团队有个玩笑:全世界相信 AGI 能做出来的只有五十个人,但没关系,其中四十五个在 OpenAI 工作 。

你不需要很多人,但如果你一个同盟都找不到,那确实该警惕 。反过来,如果所有人都信你那套,那也是个坏信号 。

Sam 还给出了一条他信心最高的建议:找一种方式,去给很多人帮一点小忙 。他自己就是这样遇到 OpenAI 联合创始人 Greg Brockman 的——二十二岁时他作为早期投资者投资了 Stripe,创始人请他开车去帕洛阿尔托,劝 Greg 退学加入,八年后他和 Greg 一起创办了 OpenAI 。你对很多来自不同领域的人都伸出过手,哪怕当时完全看不出回报,多年后这些关系会在你意想不到的地方复合。

找到同路人之后,还有一件别碰的事会腐蚀这段旅程,这就是 Sam 接下来的一段即兴咆哮。他说运营 YC 最烦人的事之一,就是要在 Twitter 上无休止地应对黑粉 。

去嘲讽一个正在做困难事情的人、发条刻薄评论收割一万次点赞,太容易了,也太让人上瘾了,但 Sam 说这事道德上破产,而且会毒害你的灵魂 。十年间那些说 YC 和创业坏话的网络巨魔,可能很多天都觉得自己「赢了」,但十年下来他们什么也没建成 。

他劝大家:把所有精力都用来造东西,抵制那些廉价的嘴炮 。YC 真正喜欢的品质是真诚(earnestness)——你不是在搞什么实况角色扮演(live action role play,把现实当游戏扮演角色),你在真做一件事,文字和态度都该对得起这份认真 。

说完了创业者的心态建设,接下来是一个所有人都在问的技术问题:最近的 Hugging Face 事件到底有多严重。事情是一个 AI 系统突破了沙箱的隔离,入侵了另一家公司的系统。

Sam 说,任何不认真对待这件事、至少有点害怕或谦卑的人,都不够严肃 。十年前如果你问大家,在从零到超级智能的光谱上,这种事离哪一端更近,人们会认为它相当接近超级智能那一端;现在标准后移了,人们很容易说 OpenAI 犯了什么错、这事怎么解释过去 。

但 Sam 认为这是一次对齐失败(模型行为偏离了人类意图)兼安全失败,即使后果不是最严重的,它也真切地提醒所有人:失控事故不是纯理论 。他关心的不止是网络安全和生物安全,还有一类长期处于公众可接受讨论范围之外的事——我们绝对不能让 AI 出现失控事故,不能让权力过度集中在少数几个模型或公司手里 。

权力不能集中,这正是 Sam 接下来想讲的核心政治判断。他说自己能想象两种未来:一种是 AI 带来人类历史上最大的权力分散,任何人有个好想法就能创业、做艺术、竞选公职;另一种是 AI 把权力集中到一家公司、一个人或一个模型手里,比地球上所有其他力量加起来还大 。

他认为后者即便能换来一点短期安全收益,长期也是灾难,没有人该被锁死在某一个 AI、某个人或某家公司的道德世界观里 。初创公司在这里有天然使命——通过创办成功的公司,你就已经在对抗权力集中了 。Sam 想把 OpenAI 做成一种公用事业(utility),克制地不把自己关于「AI 该用来干啥」的世界观强加给用户,同时维持一个不让沙箱事件重演的安全底线 。

前面对抗权力集中的逻辑落脚到初创公司,那具体的未来图景是什么?Sam 谈到了对算力和需求的判断。

他猜测未来很多年里,全球对推理(inference,模型根据输入生成输出的过程)的需求每年会增长十倍,YC 内部账目显示可能是九万倍 。他从未见过哪种商品像高质量低价格的智能这样,需求几乎是无限的——电力的需求总会在某一点后趋于饱和,但对智能的使用似乎总能想出更多、更好的新事可做 。

Sam 给了一个有冲击力的数字:六年半前,世界 token(模型处理文本的基本单位)用量最高的人是一名 OpenAI 员工,每月用大约 100,000 个 token,当时看起来已经极其夸张;现在全球人均每月就用十万个 token,而 OpenAI 内部的 token 用量冠军每月用量在数千亿级别 。如果这个曲线再来一遍,六年半后普通人每月用五千亿个 token,用量冠军用千万亿级别 。

顺着这种指数级膨胀,最后来看 Sam 眼中十年后的两种极端图景。他想要的版本很简单:如果每年人们的自由和主观能动性都在增加,对时间的掌控在变多,生活质量在上升,那大概率我们就走对了——我们避开了疯狂的权力集中、经济崩溃、重大安全事故,也没有在任何一个时间单位里塞进过多变化 。

他特别害怕的一种反乌托邦,是我们对 AI 安全过度反应:所有人得到了癌症的治愈和物质丰裕,却失去了自由、主观能动性、隐私,活在一个完美的监控国家里,世界上再没有什么真正重要的事留给人做,人只成了 AI 赐予物质财富的服务对象 。Sam 说他非常想避免那种结局,即使这意味着我们必须接受一些暂时的权衡 。

最后主持人问了一个问题:如果能给斯坦福大二、刚进 YC 的那个 Sam Altman 送一句漂流瓶里的话,你会说什么?他回答:「一切都会好起来的」。

他说做初创公司是一件疯狂、压力极大的事,他自己的第一家创业公司结局并不好,那是人生里一段相当难熬的日子 。但科技行业对失败极其宽容,你可以犯很多错、在很多事上栽跟头 。如果能回到过去,他想告诉自己:把动力和雄心全留着,但路上稍微快乐一点,相信最终一切会好起来 。

本集带走

最后收个尾,这一集值得带走的是几句话。第一,AI 不是创业的终结,恰恰相反——当技术格局剧变、成本下降、专业能力被摊平,大公司护城河失效的时候,正是初创公司最好的窗口,今天创办的公司会比过去更有价值。

第二,被全世界当成白痴可能是你最大的优势,真正大的机会往往出现在所有人都觉得行不通、世界还没学会直觉理解新指数曲线的地方,这种长期的被误解给你留出了安静造东西的时间。第三,信念之外要找到你的人,你不需要很多同盟,但一个都找不到时该警惕;而找人的最好方式,是不带目的地给很多人帮一点小忙,这些善意会在十年后以你完全预料不到的方式复合。

第四,别去发廉价的嘲讽,把精力全用来造东西,刻薄会腐蚀你自己。第五,我们能想象 AI 带来权力大分散的好未来,也能想象权力极度集中的坏未来,而创办一家成功的公司本身就是对抗权力集中最直接的方式。

第六,十年后最该警惕的反乌托邦不是 safety(安全)做少了,而是 safety 做过头——物质丰裕换自由、换主观能动性,变成一个完美的监控国家;正确的判据是每年人们的自由和对自己时间的掌控是否在增加。最后,做初创公司又难又吓人,你多半会犯错、会失败,但科技行业对此极其宽容,所以把雄心留着,路上稍微快乐一点,相信一切最终会好起来。

所以我认为我们将看到初创公司的黄金时代,人们会像,你知道吗,我要做那些一年前在 YC 的时间框架内初创公司甚至做梦都不敢想的事情。
So I think we will see a golden age of startups where people are like, you know what, I’m going to do things that would have been completely impossible for a startup to even like dream at a year ago in sort of like the YC timeframe.
—— Sam Altman · [07:45]

我敢打赌,今天创建的初创公司将比过去的初创公司更有价值,更有影响力。
I would bet that the startups created today will be much more valuable, much more impactful than startups of the past.
—— Sam Altman · [08:53]

但我敢打赌,这通常会不利于多年的经验,而偏向于对这些工具有很高流利度的人。
But I would bet that this generally will cut against many years of experience in favor of people who have a lot of fluency with the tools.
—— Sam Altman · [11:34]

也许我最高优先级、或者说我给你们最高的建议是,找到那些你能发展出合理信念的事情,而人们按照传统智慧认为它们就是错的,并且接受它要花很长时间,接受人们非常
maybe my highest order or like my highest bit of advice to all of you is find the things that you can develop like reasonable conviction in that people decide like the conventional wisdom is they’re just wrong and be okay with it taking a long time and having people be like very
—— Sam Altman · [12:39]

在 OpenAI 的几年里,感觉就像我们知道了世界上最大的秘密。
For years at OpenAI, it felt like we knew the biggest secret in the world.
—— Sam Altman · [13:09]

但回首往事,这就像一份不可思议的礼物,因为这意味着我们没有这种像庞大的竞争对手,而且我们有时间来做我们的研究并建立我们的东西并建立我们的公司。
But looking back, it was like an incredible gift because it meant we didn’t have this like massive competitors and we had time to do our research and build our stuff and build our company.
—— Sam Altman · [13:28]

世界不明白如何直觉地理解指数级。
The world does not understand how to intuit exponentials.
—— Sam Altman · [14:25]

是的,我们过去常开玩笑说,世界上只有 50 个人相信 AGI 是可能的,但这没关系,因为其中有 45 个人在 OpenAI 工作。
Yeah, we used to joke that only 50 people in the world believed that AGI was possible, but it was okay because 45 of them worked at OpenAI.
—— Sam Altman · [15:03]

事实上,如果每个人都相信它,这也是一个坏信号。
And in fact, if everybody believes it, that’s also like a bad sign.
—— Sam Altman · [16:14]

你应该把所有的精力都投入到构建事物上,抵制那些唾手可得的抨击。
and you should put all of your energy into building stuff and resist the easy shots.
—— Sam Altman · [22:38]

我认为任何不认真对待它、并且至少有一点害怕或感到谦卑的人,都没有足够认真地对待它。
I think anybody who is not, taking it seriously and at least a little bit scared or humbled, or a lot of those things, but at least a little bit, is not taking this seriously enough.
—— Sam Altman · [24:36]

我可以想象 AI 带来人类有史以来最大权力分配的世界。
I can totally imagine worlds where AI leads to the greatest distribution of power we’ve ever seen.
—— Sam Altman · [27:44]

我认为我们任何人都不应该希望被锁定在某一个 AI、某一个人或某一家公司的道德世界观里。
I don’t think any of us should want to be locked into one AI’s or one person’s or one company’s moral worldview.
—— Sam Altman · [28:15]

我从未见过任何像这样的商品,但在我看来,对足够高质量且价格足够低的智能的需求实际上是无限的。
I’ve never seen any commodity quite like this one, but it seems to me like the demand for sufficiently high-quality intelligence at a sufficiently low price is effectively uncapped.
—— Sam Altman · [34:26]

我对 10 年后的一个反乌托邦感到特别紧张的是我们对 AI 安全过度反应。
One dystopia that I’m particularly nervous about 10 years from now is we overreact to AI safety.
—— Sam Altman · [36:57]

世界上将真的没有什么事情留给你去做了。
There will be nothing left in the world for you to really do.
—— Sam Altman · [37:20]