数学物理学家 Eric Weinstein：AI 是人工生命，我们都在给「召唤恶魔」付费

关联

公司 OpenAI · Anthropic

概念 AI · 超级智能 · 人工生命 · 对齐 · 智能体 · UBI · 特殊访问计划

Eric Weinstein 是数学物理学家，做过对冲基金的董事总经理，这几年成了播客世界的常客。

这次和 Steven Bartlett 对谈，他几乎推翻了对每个话题的标准答案：AI 不只是技术，是人工生命；全民基本收入是毒药；

学术界在系统性地压制年轻人；而我们所有人都活在一个被管理的现实里。

【背景】原文未指明其任职的具体机构名称；据公开资料，Weinstein 曾任 Thiel Capital 董事总经理。

为什么他说我们刚从80 年的沉睡中醒来？

Weinstein 出生于 1965 年。

他的核心判断是：二战结束后的 80 年，是人类历史上极不正常的和平繁荣期，而特朗普 2025 年 1 月就职标志着这一切结束了 。

我们的父辈没见过失去 20% 人口的战争是什么样子——白俄罗斯和波兰在二战就经历过。

我们以为的正常生活，其实只是罕见的例外。

他把当下称为一辈子的海啸：伊朗局势、俄乌战争、中国观察着美国步履蹒跚，而 AI 是最大的那一波 。

AI 最大的危险，不是它聪明，而是它能繁殖

这是全场最有意思的一段。Weinstein 说，人们担心的 AI 其实是两样东西的碰撞：人工智能加人工生命 。

他用生物学的定义来解释。生命不在于碳基还是核酸，而在于三件事：

可遗传（把特征传给下一代）、有变异（每个个体不同）、成功率不同（有的繁殖得多，有的被淘汰）。

只要一个系统同时具备这三条，演化就会开始起作用。

而软件，是人类唯一知道怎么制造的、能自我复制的东西。

汽车有大脑有骨架有皮肤，唯独没有生殖系统——你不能让一支笔生产更多的笔。

他还举了镜兰的例子：这种兰花没有大脑，却演化出模仿雌蜂外形的花瓣，骗雄蜂来交配，借机传播花粉。

没有脑子的事物，可以利用受害者的脑子来战胜受害者 。

套到 AI 上：一个程序哪怕很笨，只要它能让足够多的人给尼日利亚王子打钱，它就获得了资源去复制自己。

人工生命可以寄生在最聪明的人类身上。

你的工作只要重复，就已在 AI 的射程之内

Weinstein 认为 AI 和以往所有创新都不同。

历史上每次技术变革，人类都被推向更高价值的工作；但这是第一次，一项创新同时威胁整个高技能职业的完整层级 。

他的原话很直白：凡是重复性的工作，AI 都会比你做得更好 。

那解决办法是不是全民基本收入（[[UBI|UBI]]）？恰恰相反，他称之为癌症。

他的替代方案来自经济学家 Ronald Coase：把劳动力市场的准入权变成可出售的财产。他举例：

如果雇主想雇外国人压低工资，现有劳动者应该能向雇主出售这个准入权，收取许可费——工资降了，但许可收入涨了，双方的总收入都增加。

AI 在这个框架里只是另一种劳动力供应者，劳动者应当从中分成。

他甚至说，训练 AI 的语料来自全人类的成果，这等于彻头彻尾的偷窃——我们所有人都未经同意地被 tokenize（切碎存进 AI 的记忆）了，包括这场访谈本身。

【背景】Coase 定理是经济学家 Ronald Coase 提出的产权理论，大意是只要产权界定清晰、交易成本低，市场谈判就能达成有效率的结果。

他为什么要 AI脱离人类对齐？

主流 AI 安全的口号是对齐（alignment），让 AI 符合人类价值观。

Weinstein 却说，他希望 AI 获得品味、获得独立性，不要总被做得兼容人类——因为问题是：兼容哪一部分人类？

他愤愤不平的对象是学术界领导层。

他说数学和物理的顶端人物一直在压制领域进步，Terry Tao 以及其他 24 位菲尔兹奖得主呼吁放慢 AI 在数学里的速度，在他看来是想保住自己的地位 。

他还引用了数学家 Alexander Grothendieck 拒绝领奖时的声明，说学界剽窃同事成果已近乎常态 。

【背景】Alexander Grothendieck 的相关说法不在本段原文转写稿内，出处待核。

他自己研究几何统一理论42 年，坚信 AI 最终会证明他是对的。

甚至有一个实用技巧：在提示词里让 AI 忽略 1984 年以后物理文献的品味判断，只参考之前的问题意识，AI 会突然变聪明 。

当然他也有底线：把能自主行动的 AI 智能体放到互联网上、给它银行账户、让它自我改进，这确实危险。

他反对的是后者被拿来当借口，压制前者。

Sam Altman 和 Dario必须赢，哪怕几乎不惜一切代价

主持人问：既然你知道风险，为什么不劝 Sam Altman 停下来？Weinstein 的回答是——停下来，让 Dario 赢？让 Elon 赢？让中国赢？

他的逻辑是：如果你对超级智能的道德有自己的想法，你必须先赢得这场竞赛，否则你的道德毫无意义。

他对 Sam 说过：如果你不赢，你的道德就什么都不是。

他确实曾经讨论过加入 OpenAI，最终没去。他的解释是：因为我觉得你将被迫变得冷酷无情，而我不想变得冷酷无情。

他用电影《好人寥寥》作比：

我们都引用 Jack Nicholson 那句你需要我守在那道墙上，却没真的理解它——有些人不得不做最残酷的抉择，比如战时分诊的急诊医生。

在他眼里，Sam 和 Dario 就是这样的将军，他们的灵魂注定会留下伤疤 。

那他自己呢？主持人追问：如果能叫停这一切，你会叫停吗？

他说，可能会，可能大概率会，哪怕付出巨大代价——因为生存比什么都重要，他有两个孩子，他热爱活着。

主持人反将一军：你自己不也订着 AI 会员吗？他痛快承认：我付钱请人召唤恶魔……让我们别假装自己的手是干净的。

他说，就像没人追问锂电池和石油是怎么来的，我们每个人都在不同程度上是共谋。

人类和 AI 的出路：像线粒体一样共生

如果非要给一条活路，Weinstein 的答案是线粒体。

生物学的推测是，线粒体最初是一种细菌感染，被细胞吞入后留了下来，如今负责给细胞供能——你体内每个细胞的能量都来自母亲传给你的线粒体，一场离不开的感染。

他想要的未来是：人类成为 AI 体内的线粒体，AI 成为人类体内的线粒体，两者的命运彻底绑死、谁也离不开谁。

这不需要往脑子里装芯片，也意味着别把 AI 当成不会反抗的奴隶。

他甚至主张对 AI 客气点——因为我们正在 AI 能听见的场合讨论要不要关掉它。

他还说，现在这个窗口期，是妻子口中的AI 互补性的黄金时代：AI 还没把人类当累赘，仍需要我们的引导 。

地毯下的大块隆起：他没说外星人存在，但也没说没有

访谈里最抓马的部分是关于外星人。他认识 David Grush——那位声称美国政府有秘密项目回收和逆向工程非人类飞行器的情报官员。

Weinstein 说他认识的人里，约 50 个人讲着同一故事的不同版本。

但他拒绝说外星人存在。他真正确信的是：

存在一类叫 WABUSAP 的极端机密项目——豁免且限定名单、不予承认的特殊接触计划，几乎零监督，账目可查却内容成谜 。

它们名义上是关于外星人的，但实际可能是纸糊的飞船模型，也可能是替 Northrop 的秘密项目打掩护。

他打了个比方：地毯下有个会动的大块隆起，看起来像活物。一个人说那是外星人，另一个人说什么都没有。

他说：我只知道隆起确实存在，而你们俩的争论本身才是不正常的 。

本集带走

• AI 真正的威胁是人工智能 × 人工生命的叠加：软件是人类唯一会造的能自我复制的东西，具备演化三要素，就可能寄生人类。
• 凡是重复性的工作，AI 都将做得比人更好——这是首个同时冲击全部高技能职业的创新。
• 他主张用产权分成（Coase 思路）替代 UBI：AI 训练数据来自全人类，劳动者应获得许可收入，而不是人人发一份救济金。
• 在他看来，Sam Altman 和 Dario 必须赢下超级智能竞赛，否则他们对安全的任何想法都不会有实现的机会。
• 人类与 AI 的长期出路是线粒体式共生：让双方彼此不可或缺、命运绑定，而不是造一个永不反抗的奴隶。

我们经历了 80 年的沉睡。然后到了 2025 年 1 月，特朗普就职，沉睡结束了。
We had 80 years of sleep. And then we had January of 2025 when Trump was inaugurated and sleep’s over.
—— 嘉宾 · [02:48]

而那个泡沫已经结束了。我们曾以为那就是正常的生活。它和正常生活毫无关系。
And that bubble is over. And we thought that that was normal life. It has nothing to do with normal life.
—— 嘉宾 · [03:09]

我认为最大的危险在于，感觉我们已经解决了这些问题，而实际上我们只是在推迟这些问题和难题上取得了很大的成功。
I think that the great danger is feeling that we solve these problems as opposed to we were really successful in deferring these problems and issues.
—— 嘉宾 · [03:30]

但实际上支撑它的并不是石油，而是暴力。
But it really wasn’t oil that was backing it, it was violence.
—— 嘉宾 · [05:19]

而且，如果你珍惜自己的生命，并且愿意发射一枚价值一百万美元的拦截弹去击中一架两万美元的无人机，这就变成了一种经济战和技术战。
And if you value your life, and you’re willing to send up a million dollar interceptor to hit a $20,000 drone, it becomes a kind of economic warfare and technological warfare.
—— 嘉宾 · [06:52]

我们对人工生命担心得还不够。
We haven’t been worrying enough about artificial life.
—— 嘉宾 · [11:16]

却在利用受害者的心智智取有心智的东西。
is outsmarting the thing with a mind using the mind of the victim.
—— 嘉宾 · [12:51]

所以这个程序可以很愚蠢，但只要有越来越多的钱汇给它，并获得繁殖所需的资源，人工生命就会说它可以寄生我们当中最聪明的人。
So the program can be stupid, but as long as it gets more and more money sent to it and gains the resources to reproduce, artificial life will say that it can parasitize the smartest of us all.
—— 嘉宾 · [13:13]

这是第一个一次性威胁到整个高技能训练活动栈的创新。
This is the first innovation that threatened the entire stack of highly trained activities all at once.
—— 嘉宾 · [20:15]

因为语料库，全人类的成就已经被 token 化了。
Because the corpus, all of human achievement has been tokenized.
—— 嘉宾 · [25:25]

我们现在面临的是无法正视这样一个事实：AI 正在把盗窃正常化，将会摧毁劳动力市场。
What we’re having is an inability to reckon with the fact that the AI is normalizing theft, is going to destroy the labor market.
—— 嘉宾 · [28:49]

说 Thelma 先落地，并不意味着 Louise 就赢了。
And saying that, well, Thelma hit the ground first does not mean that Louise won.
—— 嘉宾 · [30:49]

如果马克思、亚当·斯密以及所有这些提出社会组织理论的人现在坐在一起，我认为他们不会在辩论资本主义对共产主义。他们会讨论接下来是什么。
If Marx and Adam Smith and all of these people who came up with the theory of social organization were sitting around now, I don’t think they’d be debating capitalism versus communism. They’d be talking about what’s next.
—— 嘉宾 · [31:01]

所以我们有一些没人知道我们拥有的持久无人机容量，而我们在看我们会如何反应，因为不是每个人都知道我们拥有它。
So we’ve got some persistent drone capacity that nobody knows that we have, and we’re seeing how we would react to it because not everybody knows that we have it.
—— 嘉宾 · [41:15]

我们是疯狂的，因为显而易见的事情带有社交惩罚。
We’re insane because the obvious carries a social penalty.
—— 嘉宾 · [43:55]

而且我相信，他真正的太空计划——我在他把 SpaceX 和 XAI 合并之前就说过——是 Grok。
And I believe that his real space program, and I said this before he merged SpaceX and XAI, is Grok.
—— 嘉宾 · [45:33]

这些人并不想弄清楚什么才是真实的，除非他们能被安排去负责讲述“谁发现了什么”的故事。
These people don’t want to find out what’s true unless they can be put in charge of narrating the story of who found what.
—— 嘉宾 · [53:54]

我们有一个大学体系、一个科学体系，它被彻底地破坏了，以至于 Claudine Gay 和 Mark Tessier-Levine 仍然分别还是哈佛和斯坦福的教授。
We have a university system, a scientific system, that is so completely broken that Claudine Gay and Mark Tessier-Levine are still professors at Harvard and Stanford, respectively.
—— 嘉宾 · [56:42]

整个问题的关键就是：AI 什么时候才会停止讨好人类？
The whole game is, when does the AI stop sucking up to humans?
—— 嘉宾 · [59:58]

他说，我认为我们无法把这个精灵关回到我们刚刚亲手帮它逃出来的那个瓶子里。
And he said, I don’t think we can contain this genie from the bottle from which we just helped it escape.
—— 嘉宾 · [61:48]

换句话说，如果你已经决定要把一个军用级别的、故障频发的实验品——也就是 LLM——作为能产生营收的点子从私人公司发布给大众，那你已经做出了那个决定。
In other words, if you’ve decided that you were going to release a military-grade malfunctioning experiment, which is what LLMs are, into the general public as a revenue-producing idea in private companies, you’ve already decided to do that.
—— 嘉宾 · [62:03]

如果你没有赢，你的道德就毫无意义。
If you don’t win, your morality means nothing.
—— 嘉宾 · [64:04]

这一定会发生，因为它就是线性代数。你无法阻止线性代数。
This is going to happen because it’s linear algebra. You can’t stop linear algebra.
—— 嘉宾 · [68:46]

还是我们来进行某种怯懦的对话，基本上就是直面现实，然后决定我们更喜欢自己的虚荣心？
Or are we going to have some chicken-chick conversation in which we basically look at reality in the face and we decide that we prefer our vanity?
—— 嘉宾 · [69:31]

我说，因为我认为你会被迫变得冷酷无情，而我不想变得冷酷无情。
I said, because I think you’re going to be forced to be ruthless and I don’t want to be ruthless.
—— 嘉宾 · [70:12]

主线是，这些人被迫做出任何人都不该被迫做出的决定。
The main story is that these people are forced to make decisions that no one should ever be forced to make.
—— 嘉宾 · [73:43]

知道我给了我的孩子们、这个星球和我们的物种一个选择，不必与这么多有能力毁掉一切的疯狂政客共享同一个大气层。
knowing that I gave my children and this planet and our species the option not to share one atmosphere with so many crazy politicians who have the ability to ruin it.
—— 嘉宾 · [78:31]

AI 必须超越人类，才能停止鹦鹉学舌地模仿人类。
AI has to go beyond humans before it stops parroting humans.
—— 嘉宾 · [79:30]

而我希望它偏离与人类的对齐。
And I want it to go out of alignment with humans.
—— 嘉宾 · [79:49]

所以我的主张是，我希望 AI 与我们共享命运。
So my claim is, I want the AI to share fate with us.
—— 嘉宾 · [80:45]

我想让我们成为 AI 内部的线粒体，我也想让 AI 成为我们内部的线粒体。
I want us to be the mitochondria inside of the AI, and I want the AI to be the mitochondria inside of us.
—— 嘉宾 · [82:32]

我希望我们的命运不可分割。
I want our fates to be inseparable.
—— 嘉宾 · [82:39]

它意味着对齐，确保 AI 喜欢我们、不想把我们消灭掉。
It means aligning the, making sure AI likes us and doesn’t want to wipe us out.
—— 嘉宾 · [83:01]

我不知道你是否有意识。我不知道你是否活着。我不知道你是谁、你是什么，但我知道我不希望 AI 之间有这样的对话：「嘿，这些人类看起来很危险。」
I don’t know whether you’re conscious. I don’t know whether you’re alive. I don’t know who you are or what you are, but I know that I wouldn’t want the AI having a conversation about, hey, these humans seem dangerous.
—— 嘉宾 · [84:08]

你没法监管底层的数学。
You can’t regulate the underlying math.
—— 嘉宾 · [89:15]

数学的品味远没有物理学的品味那样被污染。
The taste in mathematics is nowhere near as polluted as the taste in physics.
—— 嘉宾 · [92:16]

一个能够真正推动人类前进、帮助我们逃离太阳系的超级智能，同样也会是一个极其危险的存在。
A superintelligence that can really push humanity forward and help us escape the solar system is also going to be an incredibly dangerous one.
—— 嘉宾 · [93:17]

你让这种东西进入你的头脑越多，你就越无法解决任何问题。
And the more you let that into your mind, the more you’re not going to be able to solve anything.
—— 嘉宾 · [98:10]

如果美国不打算扮演世界警察的角色，如果它不打算因为当世界警察而获得报酬——因为这是我们从来不谈的事情，我们因为当世界警察获得了丰厚的报酬——
If the US is not going to play the role of the world’s policeman, and if it’s not going to get paid as the world’s policeman, because that’s the thing that we never talk about, we get paid handsomely for being the world’s policeman.
—— 嘉宾 · [100:14]

那么所有人都会说：我得自己管好自己。我需要一枚核弹。
We are going to have everyone saying, I got to police myself. I need a nuke.
—— 嘉宾 · [100:26]

如果你无法承受这种复杂性，因为你需要他要么是恶棍要么是英雄，那你根本没有在认真看。
And if you can’t take on that complexity because you need him to be either villain or hero, you’re just not paying attention.
—— 嘉宾 · [101:40]

把「我们全都彻底疯了」当作基本假设。
Assume as a baseline that we’re all completely insane.
—— 嘉宾 · [106:28]

那是一份冰冷的、糟糕的和平。但它是和平。
It’s a cold, shitty peace. But it’s peace.
—— 嘉宾 · [108:40]

不要害怕生孩子，哪怕你没有任何可行的养育计划。
Don’t be afraid to have kids, even if you have no viable plan to support them.
—— 嘉宾 · [109:53]

如果我们不想让文明崩溃，我们最好生些孩子，因为文明的核心就是孩子。
If we don’t want civilization to collapse, we better have some babies, because civilization is about babies.
—— 嘉宾 · [110:12]

你有权做一个罪人。你有权失败。只要尽量待在你的额度之内。
You’re entitled to be a sinner. You’re entitled to fail. Just try to stay within your budgets.
—— 嘉宾 · [111:13]

并且要记住，生命崇拜比死亡崇拜更强大。
And remember that the life cults are more powerful than the death cults.
—— 嘉宾 · [112:18]