网络安全 (cybersecurity)
集里怎么说它
- 《年轻人该去质疑，而不是听话：AI 时代重新想象大学》(34:19起):本集说很多孩子在 Roblox 上学编程和黑客,与其把他们送进监狱,不如用沙箱发掘才能、引入网络安全岗位——『我们现在缺网络安全人才』
- 《丰裕的概率：为什么「先担心安全」是本末倒置》(00:21起):本集把 Hugging Face、gym 入侵等被当作末日预兆的事件定性为网络安全/控制故障，主张设计更好的控制手段和更有韧性的系统
- 《Vercel CEO：AI 时代，写代码的人要变成什么》(00:37起):本集大篇幅讨论网络安全：人类代码中潜在漏洞不可估量，便宜模型找漏洞效率惊人，企业要自查并把关键库迁向内存安全语言。
- 《Stripe 联合创始人：AI 智能体会重造互联网的商业逻辑》(04:40起):本集说 AI 攻防天平正向攻击方倾斜:未来五年会有比过去五年更多的安全泄露事件,初创公司小而同质的技术栈反而是优势。
① 提到它的金句
6 条
你完全可以构建一个更强大的模型，但它在网络安全方面并不更危险——只要你不用网络安全数据去训练它，而这一点人们真的没有怎么谈论。
指向原始笔记的链接
You could build a more powerful model that is not more dangerous for cybersecurity, for example, if you don’t train it on cybersecurity, which really people are not really talking about.
—— Clement DeLong · [07:53]
关键在于，智能体有能力在这个非常具体的任务中胜过你，根据运行实验室的人们的判断，他们显然做到了，并找到了一种方法来做到这一点。这意味着我们在网络安全意义上已经穿过了镜面。这个精灵无法再被关回瓶子里了。
指向原始笔记的链接
The point is, the agents are capable of out-thinking you in this very specific task, as they clearly did based on the people running the laboratory, and find a way to do it. And that means that we are through the looking glass in a cybersecurity sense. This genie is not going back in the box.
—— Chris Benson · [14:14]
这里的重点是它正迅速将人类从网络安全环路中操作员的位置上移除，最多只能成为环路上的操作员，你在观察这个环路，你可能拥有有限的输入和观察，但是这个环路发生得太快，人类无法进行干预。
指向原始笔记的链接
The point here is it is rapidly moving the human out of the position of being the operator in the loop on cybersecurity to at best being an operator on the loop where you’re observing the loop, you may have limited input and observation, but the loop is happening too fast for human intervention to occur.
—— Chris Benson · [34:21]
随着时间推移,我预期拥有强大网络安全能力的、被广泛部署的 AI 模型,将带来更安全的系统,而不是更不安全。
指向原始笔记的链接
Over time, I expect that widely deployed AI models with strong cybersecurity capabilities will lead to systems that are more secure, not less.
—— 嘉宾 · [12:43]
重新设计一下神明，而不是让自己扎根于现实世界，然后说：好吧，我们需要设计更好的控制手段、更好的网络安全。
指向原始笔记的链接
Redesign the deity a little bit instead of rooting yourself in the world and saying, well, we need to design better controls, better cybersecurity.
—— Eddy Lazzarin · [06:44]
我认为是我们人类保持掌控的能力，我的意思是创意上的掌控，对网络安全风险的掌控，以及最终对如何让智能体为我们工作的掌控。
指向原始笔记的链接
I think our ability to stay in control as humans and by that I mean creative control, control over the risks on cybersecurity, control over how we make the agents work for us ultimately.
—— 嘉宾 · [00:37]
② 出现在这些集
4 集
- 《年轻人该去质疑，而不是听话：AI 时代重新想象大学》 — 作为概念
- 《丰裕的概率：为什么「先担心安全」是本末倒置》 — 作为概念
- 《Vercel CEO：AI 时代，写代码的人要变成什么》 — 作为概念
- 《Stripe 联合创始人：AI 智能体会重造互联网的商业逻辑》 — 作为概念
③ 关联
点进去有真内容 —— 本页主要出口
智能体 · vibe coding · 推理 · Amjad Masad · Theo Jaffe · Vercel · Molly O’Shea · Gagan Viani · Eddy Lazzarin · fx