跨国深谈← 返回←Zubin Gharemani

① 他说过的话

4 条

我想要我的 AI，就像我想要我的计算器非常擅长大数乘法一样，我实际上希望我们的 AI 系统比人类更理性、更善于表示和处理概率。
I want my AI, just like I want my calculator to be really good at multiplying large numbers, I would actually like our AI systems to be, you know, more rational, better at representing and manipulating probabilities than humans are.
—— Zubin Gharemani · [19:26]

指向原始笔记的链接

它们挣扎是因为训练它们的范式没有优先考虑这一点。
They struggle because the paradigm for training them hasn’t prioritized that.
—— Zubin Gharemani · [21:10]

指向原始笔记的链接

你知道，我本科时使用的那台巨大的最先进的超级计算机、并行连接机器计算机，实际上比我口袋里的 Pixel 手机还要慢。
You know, the giant state-of-the-art supercomputer, parallel connection machine computer that I used in my undergraduate years is actually slower than the Pixel phone that I have in my pocket.
—— Zubin Gharemani · [41:43]

指向原始笔记的链接

而且对于我认为所有重要的问题，我宁愿拥有一个知道自己不知道的 AI 系统，也不愿拥有一个傲慢和过度自信的 AI 系统。
And for, I think, all problems that matter, I would rather have an AI system that knows when it doesn’t know than an AI system that is arrogant and overconfident.
—— Zubin Gharemani · [43:41]

指向原始笔记的链接

② 出现在这些集

1 集

• 《给 AI 装上「自我怀疑」：剑桥教授 30 年的不确定性智能之路》 — 作为主持

③ 他谈到的

点进去有真内容 —— 本页主要出口

Google DeepMind · 不确定性 · 贝叶斯规则 · 大语言模型 · 语义熵 · GenCast · AlphaFold · 持续学习 · 灾难性遗忘 · Transformer

④ 也在聊「AI 安全」的人