算子 (kernel)
集里怎么说它
- 《Transformer 已见顶?OpenAI 与 Google 双雄离职造新架构》(39:58起):本集指出底层算子的编写是实现极致算力效率的巨大瓶颈,全球懂行的人凤毛麟角;训练出能自动写出极速算子的模型,是寻找新架构能力的核心验证内循环。
① 提到它的金句
3 条
改进内核只给你几个百分点的提升,而增加接受长度实际上是 2 到 4 倍的乘法性减少。
指向原始笔记的链接
Improving kernel only give you like few percentage points improvement and increasing except lengths literally is multiplicative decrease in two to four x
—— Akshat Bubna · [17:38]
问题,因为我们今天已经看到每周都有一个新内核漏洞被披露,而除非你自己拥有 AI 驱动的防护,否则你真的无法防范 AI 驱动的漏洞利用。
指向原始笔记的链接
issues because again we’re seeing that today a new kernel exploit is coming out every week and you really can’t protect yourselves against AI-driven exploits unless you have AI-driven protections yourself.
—— Anurag Gohl · [44:37]
今天,你知道,写一个优化的 kernel,我认为 Calapeño 是一个很好的例子,但他们基本上说,你看,人类已经无法真正为这个东西编程了,但一个智能体群一夜之间就能做到。
指向原始笔记的链接
Today, you know, writing an optimized kernel for, I mean, I think Calapeño was a great example, but they basically said, look, humans can’t really program this thing anymore, but an agent swarm overnight can do it.
—— 嘉宾 · [20:27]
② 出现在这些集
1 集
③ 关联
点进去有真内容 —— 本页主要出口
Sonja · Rohan Anil · Jerry Tworek · Core Automation · OpenAI · Google · Anthropic · Transformer · 强化学习 · 预训练
