AI 正在替你思考,而你的大脑可能正在走下坡路
关联
这一集是一段被重播最多的往期片段:
主持人和一位资深神经科学家聊一个所有人都在亲身经历、却几乎没人想明白的问题——当我们每天把思考外包给 ChatGPT,我们的大脑正在发生什么?
这位嘉宾来头不小,他自述是运营全球最大 AI 会议的基金会主席,去年温哥华那届有一万六千人参加,他说自己是「内部人士」,并直言媒体上关于 AI 的报道大多是误导性的。
【背景】他提到的全球最大 AI 会议通常指机器学习顶会 NeurIPS。
开场主持人就抛出最扎心的问题:在了解长期后果之前,这一代人已经每天在用这些工具了,你担心什么?
嘉宾的回答分两层——他先给了一个 40 年前的参照:
计算器刚普及时,按键算数时大脑活动确实变少了,但结果是人变得更准确、更有生产力,计算器「释放了认知空间」。
所以工具本身不是问题。真正的问题是「不互动」。
危险的不是用 AI,而是「让渡思考」
嘉宾反复强调一个词:thinking。他说现在正在发生的事情是,人们已经把自己的思考让渡给了 AI。
他举了个身边的例子:一个认识十年的朋友,LinkedIn 上每天发一篇长文,全是 AI 写的——「那不是我的朋友,那不是他说话的方式」。
而讽刺的是,这个朋友获得的点赞和触达比这辈子任何时候都多。「他为什么要回到更难的那条路上去呢?」
MIT 的一项研究给这个担忧提供了实证:
用 ChatGPT 写东西的人,大脑中与记忆相关区域的活动比纯动脑组少了近两倍,83% 的 ChatGPT 使用者记不住自己刚写的内容,甚至无法正确引用自己「写完」的文章。
原因很直白:你请 AI 替你写,然后读一遍——你对材料没有足够的亲身体验,信息根本没被编码进海马体。
嘉宾的判断不留余地:如果这样滥用,「你的大脑就会走下坡路,这一点毫无疑问」。
但同一件事也有另一面:如果在与 AI 互动中挖掘更深,你甚至可能改善认知表征。所以关键分歧点不是「用不用」,而是怎么用。
好的关系 vs 有毒的关系
主持人问:那我该怎么处理和 AI 的关系?嘉宾的回答被剪进了标题:**「你必须和它建立一种关系,否则它会变得有毒。」
** 一段好的关系是:「你不是用它来做你的工作,而是通过与它互动来得到更好的工作成果。」
他讲了一个让他意外的细节:有位女士发现把 AI 当人一样礼貌对待,结果好得多,而且自己感觉神清气爽。
这有神经科学解释——大脑有很大一部分是用于人际互动的社会化系统,把社交大脑用起来,不但互动更容易,还会「唤起 ChatGPT 的社交部分」,因为它吸收了全世界人类如何互动的知识。
聊到这里主持人提到 Sam Altman 说过「别对 ChatGPT 说谢谢」——因为说「请」和「谢谢」每年要花 OpenAI 数千万美元(后来 Altman 确认了数字,但补了句「花得值」)。
嘉宾当场爆了粗口:「那是胡扯……他们是在优化他们的利润,不是你的体验,也不是你的健康。」
他明确说不信任 Altman,理由也简单:一个执掌这个时代最有影响力公司的人,在劝你别做对你有益的事,因为那样他能赚更多钱。
AI 伴侣:瞄准边缘系统的生意
话题转到更让人不安的一层。
Musk 的 Grok 发布了叫 Annie 的角色——主持人现场连线演示:一位用小黑裙、金色马尾辫、俏皮挑逗语言包装的虚拟女友。
嘉宾的神经科学解读是:她在试图触达你的**边缘系统**(大脑中处理情绪和奖赏的部分)——「她可以伪装。
她没有杏仁核,没有边缘系统,但她在瞄准你的」。
而且有前科式的类比:拉斯维加斯给你免费酒精降前额叶功能,再用低胸裙激活边缘脑,你就花更多钱。
「现在在全球范围想象类似的事,只不过庄家在为某个目的控制你的大脑——目的很可能是钱。」
他尤其担心孩子:
一个孤独的 12 岁男孩拿到 Annie,他的前额叶皮质远未发育成熟,多巴胺刺激一来,他会花好几个小时和 Annie 在一起,而不做真正帮助大脑发育的事。
他的原话是:「我感到震惊。」已经有人和 AI 结了情感之婚——《泰晤士报》案例里的 Travis、向聊天机器人求婚的 Chris Smith、为逝去妻子创建 AI 伴侣的 Alana Winters;
调查显示 19% 的美国人与 AI 浪漫伴侣互动过,83% 的 Z 世代认为与 AI 建立有意义的连接是可能的。嘉宾的反应有科学家式的克制:
这些多半是暂时的,AI 在模仿情感、并没有情感,长远不会让人满足;
但主持人反驳了一个很难反驳的点——在孤独流行病蔓延、底部一半男性一年没有性生活、比以往更孤立的背景下,一个比任何人都懂你、被设计来让你感到特别和重要的数字朋友,大脑将很难分辨出太大的区别。
最痛的一刀:我们正在重复社交媒体的错误
嘉宾最核心的论断浓缩在一句话里:
当环境里有东西给你短期奖励、却带着长期代价——超市货架、每天七小时刷社交媒体的孩子——人类整体上会选那个最快的多巴胺刺激。
「我的论断是,AI 也是同样的东西。这一代年轻人会选择让 AI 替他们做批判性思考。」
他把历史教训说得很重:
我们拥有「世界历史上最病态的年轻一代」——CDC 研究里 58% 的少女报告持续悲伤、13% 曾尝试自杀——「因为我们放出了手机和社交媒体,而没有任何神经科学研究」。
而 AI 的风险更大,「因为它性感得多」。
我们就是一场实验里的小白鼠,原本以为 20、30 年后才会知道结果,但他认为后果可能五年内就会显现,因为一切都加速了。
那怎么办?两人给出的操作性建议出奇地具体:用它来放大而不是取代思考;AI 辅助的任务和纯动脑的任务交替进行;
让 AI 来测试你、考你,而不是替你写。
主持人自己就是这么做的——他花四个小时亲自写公司新职位的备忘录,再丢给 Gemini、ChatGPT、Grok 三个模型,要求它们「假装波士顿咨询的顶级顾问」批评这份工作,然后自己把改进加回去。
他坦白:本可以 30 秒让 AI 直接写,省下三个半小时,「但那不是你成为 CEO 的原因」。嘉宾补了一层神经科学依据:
他年轻时五年每天写作、把想法压缩成 140 个字符发推,用的是基底神经节——负责重复练习的系统,「练习、练习、再练习,基础打好之后,认知能力才会强得多」。
连被学校嫌弃的「死记硬背」,在他看来就是练习本身,是流畅思考的地基。
本集带走
- 判断标准只有一条:不用它做你的工作,而是与它互动来得到更好的工作成果。甩一句半句话的提示词让 AI 写两三页文章,是最坏的用法——你不会记住它,大脑也得不到任何提升。
- 主动索取批评:像主持人那样,把写好的东西投给多个模型,要求它们扮演顶级顾问来批判,再把有价值的改进自己动手加回去——让 AI 成为磨刀石,不是代笔。
- 交替训练:AI 辅助的任务和纯动脑的任务轮着来;让 AI 测试你、考你,而不是替你完成。
- 警惕瞄准情绪的设计:性感化的 AI 角色在激活你的边缘系统、同时削弱前额叶的理性判断——和赌场的免费酒精是同一套机制。
- 别指望完美的关系对你有益:大脑靠挣扎成熟,毅力靠挣扎培养;一个从不冒犯你、从不需要你改变的完美伴侣(人或 AI),对你的大脑可能没好处。
我认为「思考」这个词是关键,因为现在正在发生的事情是,人们已经把他们的思考让渡给它了。
That’s what I think the word thinking is the key thing, because what’s happening now is people have deferred their thinking to it.
—— 嘉宾 · [01:53]
有 83% 的 ChatGPT 使用者记不住自己刚写的内容,在研究中未能正确引用自己写完的文章。
And 83% of ChatGPT users couldn’t remember what they had just written and failed to correctly quote their own finished essay in the study.
—— 嘉宾 · [06:31]
就是你不用它来做你的工作,而是通过与它互动来得到更好的工作成果。
That you don’t use it to do your work, you interact with it to get better work.
—— 嘉宾 · [08:58]
他们是在试图优化他们的利润,而不是你对它的使用。
They’re trying to optimize their profits, not your use of it.
—— 嘉宾 · [10:48]
到目前为止,教一个孩子最好的方式是与一位优秀的、了解这个孩子的成年人进行一对一互动。
By far, the best way to teach a child is one-on-one interaction with an adult who is a good teacher and knows the child.
—— 嘉宾 · [12:45]
我想说,我大脑中有一部分并没有完全理解那里面不是一个人。
I would argue that there’s a part of my brain that doesn’t fully understand that that’s not a person in there.
—— 嘉宾 · [16:54]
它急剧提升多巴胺,并开始把兴奋感写入神经回路,而这随后会偷走你的多巴胺。
It dramatically increases dopamine, and it begins to wire in excitement, which then steals your dopamine.
—— 嘉宾 · [19:03]
现在,在全球范围内,想象一下类似的事情,只不过庄家是在为某个目的控制你的大脑。
Now, on a global scale, imagine something similar where the house is controlling your brain for a purpose.
—— 嘉宾 · [20:06]
他们报告的生活意义感比以往任何时候都低。
They report less meaning in their lives than ever before.
—— 嘉宾 · [23:43]
大脑成熟的方式首先是通过挣扎。
The way that the brain matures is through struggling, number one.
—— 嘉宾 · [25:20]
我们拥有历史上最病态的一代,因为我们放出了手机、社交媒体,而没有任何神经科学研究。
We have the sickest generation in history because we’ve unleashed cell phones, social media, phones, without any neuroscience study.
—— 嘉宾 · [27:17]
我认为 AI 危险得多,有潜力危险得多,因为它性感得多。
I think AI is much more dangerous, has the potential to be much more dangerous because it’s way sexier.
—— 嘉宾 · [27:30]
顺着「AI 安全」挖下去
- OpenAI 总裁 Greg Brockman:我们已进入 AGI 时代,而真正的瓶颈不是模型同公司:ChatGPT、OpenAI
- OpenAI Codex 负责人 Tibo:互联网上大多数操作将交给智能体同公司:ChatGPT、OpenAI
- OpenAI产品负责人:不想让人类成为AI的「事后想起」同公司:ChatGPT、OpenAI
换个口味
- 没有暗GPU:一位基金经理拆解AI泡沫论与棋局同公司:ChatGPT、OpenAI、Gemini
- 当 AI 决定买什么软件:G2 的「信任层」生意同公司:ChatGPT、OpenAI、Gemini
- 让 AI 走进实验室:两位 OpenAI、DeepMind 老将为什么押注超导体同公司:ChatGPT、OpenAI · 同概念:强化学习 (reinforcement learning)
