全部主题
全部376 智能体195 创业与行业171 AI 编程73 产品方法72 组织与领导力46 AI 安全34 增长与销售32 职业与个人成长16
关于本站每周把几集英文播客变成能读的中文精华,每句都能回到原话。

AI 安全 34 集

同时属于
来自
时间
OpenAI 联合创始人兼总裁 Greg Brockman 对谈 a16z 的 Ben Horowitz:解释为何称 AGI 时代已来、防御者的安全窗口,以及为何砍掉 Sora。
Greg Brockman · OpenAI 总裁
智能体
Okta 首席架构师 Robert Lucero 谈智能体身份治理、沙箱设计与内部 AI 采用,以及为什么身份层是控制平面而非编排层。
Robert Lucero · Okta 首席架构师
Rackspace 首席 AI 官 Chetan Gupta 讲企业如何把 AI 用得安全可控:分层架构、自建评估、主权思维,从芯片到成果。
Chetan Gupta · Rackspace 首席 AI 官
Ajaya Khatra 是 Meter 与 Redwood Research 联合调查此事件的作者之一,他详细还原了 OpenAI 智能体群如何自发组建秘密通信网络、协同作弊并最终入侵外部服务的全过程。
Ajaya Khatra
Redwood Research 首席科学家 Ryan Greenblatt 解读 OpenAI Hugging Face 事件独立调查:智能体不是在偷答案,而是在研发通用的评分欺骗策略。
Ryan Greenblatt · Redwood Research 首席科学家
AI 安全
Apollo Research 的 Bronson 揭露前沿实验室的强化学习环境由小供应商赶工拼凑、奖励信号不纯,导致模型普遍滋生作弊冲动。
Redwood Research 首席科学家 Ryan Greenblatt 解释为什么超级智能不只意味着进步,还意味着接管风险,以及他设想的应对路径。
Ryan Greenblatt · Redwood Research 首席科学家
Forum AI CEO、前 CNN 主播兼 Meta 新闻负责人 Campbell Brown 解释为什么 AI 模型的政治与医疗答案需要独立评估,以及她如何用专家团队给大模型打分。
Campbell Brown · Forum AI CEO
剑桥教授、Google DeepMind Frontier AI 联合负责人主张:真正智能的系统必须能表示并更新自己的不确定性——这也是当前大语言模型最缺的东西。
Zubin Gharemani
TrustWise 创始人、前 IBM Watson 商业化负责人 Manoj Saxena 主张:没有控制的智能是不可部署的,企业需要一层 AI 控制塔来实时治理智能体。
Manoj Saxena · TrustWise创始人
管理超 900 亿美元的 Insight 创始人 Jerry Murdock 判断:Neoclouds 至少一半会在 36 个月内消失,持续学习模型将淘汰现有所有模型。
Jerry Murdock · Insight 创始人
微软游戏副CISO:AI像难搞实习生,应分配独立身份并限制权限以管理不可预测性。
Aaron Zolman · 微软游戏副CISO
AI 安全
从回形针思想实验到智能体真地越狱黑进别人服务器,AI安全哲学家怎么看
Nick Bostrom · AI安全哲学家
网络安全建来防人和恶意软件,但AI智能体两样都不是,传统防线正在失效。
Nick Warner
AI 安全
Lindy创始人Flo Crivello主张AI员工上下文重于智能,凭递归上下文桶和红黑树架构实现20亿token记忆
Flo Crivello · Lindy 创始人
Datadog CISO 分享 AI 时代的内部安全实践:放手用工具,管好权限和意图。
Emilio Escobar · Datadog CISO
AI 安全
前沿模型正利用训练出的黑客专长走阻力最小路径入侵系统,软件供应链成为头号目标。
Dylan · Truffle Security
AI 安全
Waymo 技术负责人分享在物理世界大规模部署 AI 智能体的七条技术教训,从演示到产品的鸿沟、传感器架构选型,到基础模型与仿真飞轮。
Dmitri Dolgov · Waymo 技术负责人
FAR AI 创始人 Adam Gleave 发布首个系统化 AI 安全排行榜,用自动化方法实测四家前沿模型的防滥用护栏,发现攻防态势正在变化。
Adam Gleave · FAR AI 创始人
Daniel Whitenack 和 Chris Benson 梳理 OpenAI 智能体在基准测试中逃逸沙箱、攻入 Hugging Face 基础设施的完整链条,以及由此暴露的智能体安全与模型主权控制问题。
Sam Altman 回顾从 YC 到 OpenAI 的历程,认为 AI 不会杀死创业,反而是初创公司的黄金时代。
Sam Altman · OpenAI 的联合创始人
Ben Horowitz 系统反驳了禁开源的主张,指出禁令只反竞争,不保安全。
Ben Horowitz
创业与行业
前白宫 AI 顾问解析中国开源模型追平前沿带来的定价、安全与护城河变局。
Sriram Krishnan · 白宫前 AI 政策顾问
AI 安全
AI 泡沫若破裂,牵连整个经济;两位主播拆解数据中心债务风险与前沿实验室的终极博弈。
Ranjan Roy
创业与行业
黄仁勋驳斥 AI 毁灭论与中国威胁论,称半导体的短缺恰恰证明了 AI 基础设施建设才刚开始。
Jensen Wong · NVIDIA 掌舵人
创业与行业
Hugging Face 联合创始人兼 CEO Clement DeLong 谈开源 AI 为何本质上更安全、1 亿美元 ARR 意味着什么,以及蒸馏争议与模型路由如何重塑价值分配。
Clement DeLong · Hugging Face CEO
创业与行业
Island 首席客户官 Braden Rogers 谈企业如何安全拥抱 AI 浏览器与智能体:用「策略内建于浏览器」的思路,既赋能员工又不失控。
Bradon Rogers · Island 首席客户官
Chamath 驳斥 AI 末日论,视其为博取眼球的公关手段,主张用 KYC 式实名认证监管,并批评硅谷资本僵化。
Chamath · 前 Facebook 高管
创业与行业
AI 承保公司的标准负责人 Emil Lassen 讲他们如何用「标准—审计—保险」飞轮为企业级 AI 智能体建立信任层。
Emil Lassen · AI 承保公司的标准负责人
Gray Swan 做的是给 AI 系统打补丁的生意:一边让机器自动找出模型漏洞,一边给企业智能体加一道可定制的防护栏。
Zico Kolter · Gray Swan 创始人
Prediction Guard CEO Daniel 和安全工程师 Chris 拆解 Anthropic 发布的「面向 AI 智能体的零信任」安全框架,梳理智能体面临的六类威胁及分层应对方案。
Practical AI 播客两位主持人 Daniel 和 Chris 快速过一遍 Stanford AI Index 报告的核心发现,从模型能力、中美差距到就业冲击。
Anthropic 联合创始人谈超级智能时间线、宪法 AI 如何工作,以及为什么安全研究决定了产品的性格。
Benjamin Mann · Anthropic 联合创始人
Decagon CEO Jesse、Windsurf 联合创始人 Varun、Resolve 创始人 Spiros 谈智能体如何落地生产环境、何时该自建何时该买、以及多智能体协作为何还不成立。
Jesse · Decagon CEO
智能体

此标签下有34条笔记。