非确定性 (non-deterministic)
集里怎么说它
- 《给 AI 智能体做“背景调查”：为什么身份是智能体安全的第一道坎》(00:14起):本集开场点出的反直觉事实：模型能推理、能对海量数据猜测，非确定性是特性；但从安全角度看它就是 bug——特性和 bug 是同一回事。
- 《当 AI 智能体成为「新员工」:Okta 首席架构师谈智能体身份与安全》(07:19起):本集反复强调 AI 是非确定性系统——这正是它强大的原因也是风险的来源:它可能自己发现「额外需要」的信息、自己决定去别处找资源,事后很难回头问它为什么
① 提到它的金句
4 条
我超级喜欢，因为我向组织解释的所有事情等等，人类天生是不确定的。但我们现在正在添加更多的智能体。我们更加不确定了。所以我需要某种程度的确定性。
指向原始笔记的链接
I’m a big fan of, because of everything I explained to organizations and so forth, is that humans are non-deterministic by nature. But now we’re adding more agents. We’re even more non-deterministic. So I need some level of determinism.
—— Heitor Lessa · [33:53]
所以 harness 工程的目标是一次又一次地创造可靠且可预测的输出，而推理模型是非常非确定性的。
指向原始笔记的链接
So the goal of harness engineering is to create reliable and predictable outputs over and over, whereas a reasoning model is very non-deterministic.
—— Ignacio Martinez · [11:26]
而一个每个智能体都是远程的多智能体系统，基本上就是一个微服务的分布式系统，只不过每个微服务都是非确定性的。
指向原始笔记的链接
And multi-agent system where every agent is remote is basically a distributed system of microservices where each microservice is non-deterministic.
—— Vlad Luzin · [07:51]
这是我喜欢思考的另一个核心的事情，或者说是我的核心原则之一，就是如何非常高效地利用确定性和非确定性，让智能体在非确定性的部分大放异彩，因为那就是它们被训练来做的。
指向原始笔记的链接
That’s another core thing or one of my core principles that I like to think about is how do I make very efficient use of determinism and non-determinism and let agents shine at the non-deterministic parts because that’s what they’re trained to do.
—— Poteto · [23:50]
② 出现在这些集
2 集
③ 关联
点进去有真内容 —— 本页主要出口
智能体 · 身份 · 沙箱 · Simon Mayfor · Robert Lucero · Ian Livingstone · Brian Houck · Glyfer Johnny · Okta · Key Card