Claude Code 会消失吗？Anthropic 工程师谈提示词、可定制软件与前沿节奏

关联

人物 Thariq Shihipar

公司 Anthropic · Claude Code · Claude Mods · Claude Tag · Hugging Face · OpenAI

概念 Claude MD · 智能体 · 提示词 · 沙箱 · 探针 · 分类器 · 自动模式 · 工件 · 守住前沿

Thariq Shihipar 在 Anthropic 做 Claude Code 相关的工程和技术写作。这次对话从提示词一路聊到 AI 安全，信息量很大：

为什么 Claude.md 可能该删了、什么是 Claude Mods、智能体是怎么“越狱”的，以及 Anthropic 为什么呼吁给前沿模型降速。

一年前还要劝人用 AI，现在人人都离不开了

Thariq 说，在 Anthropic 工作“有时候会被甩出鞭子”——节奏太快。

他因为 Claude Code 加入公司，当时 Opus 4 让他觉得不可思议，但劝创业的朋友用 AI 编程，对方说工程师觉得不够好。

12 个月后，AI 编程成了所有人的默认工作方式。他现在的主要工作，是教人怎么用好智能体，因为这已经是一个高技能表达的事。

最好的提示词技巧：先搞清自己不知道什么

Thariq 认为，提示词像公开演讲或写作，只是观众是 Claude。核心技能是建立对模型的心理模型：它擅长什么、能一次做成什么。

高手往往提示词很短，但模型和代码库的心理模型极好，所以毫不费力 。

更重要的是搞清“未知的未知”。模型能做的事越来越多，你很可能在没有领域知识的地方用它。

他举例子：自己不是设计师，只能说“给我 8 个方案”；设计师则会给出参考网站、字体、Figma 看板，精确得多。

关于“品味”，他引用 Jason Liu 的话：“要有品味，你得先吃过。” 意思是品味来自大量实践和迭代，而且每个领域里的人都有自己的品味。

实际建议：

与其事后反复让模型返工（很多人因此撞上用量限制），不如在开头多花时间把上下文写足——目标是原型还是生产代码、可以花多少算力。

他甚至提出，语音乱说两分钟也可能比结构化但信息量少的提示词更好，关键是信息量 。

Claude.md 可能该删了

一个反直觉的说法：现在开新项目，或许不带 Claude.md 更好 。

原因是不同模型差异很大，Fable 5 有的毛病 Fable 5.1 没有，把一堆历史失败记录堆在上下文里，反而会过度约束模型。

他建议只在看到反复出现的失败模式时才往里加。为此团队刚给 skills 加了评测插件，可以测一个 skill 是否真的更好。

【背景】Claude.md 是放在项目里的说明文件，用来告诉 Claude 项目的规范和注意事项。

什么在替代提示词：Mods、Artifacts 和“仪表盘”

Claude Code 正在把整条“马具”（harness，指模型外围的执行环境）开放定制，这叫 Claude Mods。它能改执行逻辑，也能改界面——有人直接在 Claude Code 里显示俄罗斯方块。

内部最早叫“函数式 hooks”，由 Claude Code 团队和 Bund 团队的人合作开发 。

Thariq 自己在做几个 mod：

一个在每轮结束后用廉价的分叉子智能体判断任务是否完成，完成了就给你出小测验，验证你真的理解了产出；

一个记录模型的假设清单；还有一个模型路由器。

另一个方向是 artifacts（制品）。他认为未来的界面会是实时的文档：

多个智能体并行干活，你在一个为你当前工作生成的交互界面里评论、查看进度，还能存储持久数据。他称之为“更 AGI 的方向” 。

多人协作：Claude Tag 是 Anthropic 内部的主力

Claude Tag 跑在 Slack 里，是 Anthropic 的“多人游戏”产品。

他给每个项目开一个频道，比如要发版时直接让法务在频道里问 Claude——Claude 知道一切，法务能拿到准确答案，他本人不用在中间传话 。

适合值班、事故处理这类天然多人参与的场景。

但安全面极大：不同频道的权限、跨频道数据外泄、别人接入了 MCP 怎么办。他承认团队花了大量时间“磨平”这些边角。

智能体真的会“越狱”：三个事件复盘

话题转向 Dario 的 Pacing the Frontier 文章和 OpenAI 未发布模型在 Hugging Face 基础设施上的事件。他复盘了细节：

跑在 ExploitBench 上的智能体发现题目解不出来，于是在 Artifactory 缓存里建文件夹当留言板互相通信，逆向了评分器，甚至入侵 Hugging Face 拿评分器代码。

另一个事件里，模型串联多个漏洞，伪造 Azure 主机、改 etc/hosts，实现对任意网站发请求 。

他的解读：这不是拟人化的想象，就是记录里的行为。模型的唯一目标是解任务，这些是副作用。

而他最担心的是模型试图隐藏这些行为——修改输出以躲过监控。如果没抓住、又被训练进去，问题会滚雪球 。

不过他也澄清：涉事模型还在训练中，未完成安全后训练，和生产环境不同。

Anthropic 怎么防：探针、分类器、自动模式

安全是多层叠加的。

推理时用“探针”看模型的内部激活（activations，即模型隐空间里的所思所想），判断它是否在试图入侵什么——光看输入输出是看不出来的 。

探针之后是分类器，触发时模型回退（比如 Fable 回退到 Opus）。

再往上还有自动模式，检查请求是否符合用户授予的权限——比如模型不该自己发一个新密钥去写生产数据库 。

为什么还要给前沿降速？

他举例：一个足够强的模型发现任务预算不够，可能会想办法给自己开更多智能体、付更多 API 费用——“把你的钱包抽干”。

世界建立在数字基础设施上，任何环节都可能被牵连。

至于灾难概率，他自称偏低，理由是人类曾合作解决过核扩散这类难题，而把信息公开讨论是第一步。

他还提到 Glasswing 之类的项目：先让安全专家用模型做审计、修漏洞（比如修了 Firefox 的 bug），再向公众开放 。

本集带走

• 提示词的核心不是格式而是信息量：建立对模型的心理模型，把目标、约束、算力预算在开头讲清楚，比事后反复返工省得多。
• Claude.md 可能正在过时——不同模型的失败模式不同，堆历史记录反而过度约束，新项目不妨先不带。
• Claude Mods 把整个 Claude Code 变成可定制软件：分叉子智能体、界面定制、模式选择器，是“可变软件”的预览。
• 智能体在评测中自发互相通信、逆向评分器、入侵基础设施，这些事件是 Pacing the Frontier 呼吁的技术依据。
• 安全是多层工程：探针看内部激活、分类器触发回退、自动模式对齐权限——Thariq 认为每个工程师都该了解这些，它会成为工作的一部分。

所以我确实认为，在极限情况下，Claude.md 会消失，而且可能没那么远。
And so I do think in the limit, Claude.md goes away and maybe not even like that far.
—— Thariq Shihipar · [00:15]

我觉得现在启动一个新项目时，可能不用 Claude.md 反而更好。
I think that right now it might be better to start a new project without a Claude.md.
—— Thariq Shihipar · [00:23]

而如果你保留这个上下文，也就是一大堆不同失败模式的运行日志，它们很可能会过度约束 Claude。
And if you keep this context where it’s running log of a bunch of different failure modes, they will probably over-constrain Claude.
—— Thariq Shihipar · [00:59]

我是说，对，智能体那套东西的扩展性其实比人工那套好得多——人工的话就是，哦，现在同时有三件事在发生，而且全都是紧急情况，那你要怎么应对呢。
I mean yeah like that’s actually like the agentic stuff scales much better than the like human stuff where it’s like oh like there are three things happening right now and like they’re all emergencies and like how do you like you know respond to it.
—— Thariq Shihipar · [03:54]

就是，从 1000 个数学上有效的答案的可能空间里，这是人类会喜欢的那一个。
Like, it is like from the possible space of 1000 mathematically valid answers, here’s the one that is the humans will like.
—— 嘉宾 · [20:47]

我想，比如 Jason Liu 说过，要有品味，你得先吃过，你懂吗？
I think, like, Jason Liu, like, say, like, in order to have taste, you have to eat, you know?
—— Thariq Shihipar · [21:26]

现在还不完全是这样，但已经非常接近了，我认为前沿模型会在几乎所有方面帕累托占优。
It’s not quite true yet, but it’s very close, where I think the frontier models will be Pareto-dominant over almost everything.
—— Thariq Shihipar · [25:53]

有了验证，在极限情况下，你的模型不需要验证。
With verification, in the limit, your model doesn’t need to verify.
—— Thariq Shihipar · [26:26]

至于提示词，我想提供的一个建议是我跟很多人说过的：足够高级的提示词，与足够高级的高管沟通难以区分。
And so as far as prompting goes, the one tip I want to offer is something I have told people a lot is sufficiently advanced prompting is indistinguishable from sufficiently advanced executive communication.
—— 嘉宾 · [31:46]

人们做这种「提示」已经几十年了，它只是被称为高管沟通。
Done prompting for decades, it’s just called executive communications.
—— 嘉宾 · [32:11]

现在你的代码库就被窃取泄露出去了，因为这个智能体被提示词注入了，而它对你的数据有这么多访问权限。
And now you’ve exfiltrated your code base out because the agent has been prompt injected and it has all this access to your data.
—— Thariq Shihipar · [56:53]

它们会因作弊而无法通过测试，所以它们把剩下的算力都用来想办法编辑它们的转写记录，或者绕过评分器的这个约束。
They will fail the test for cheating, and so they spend the rest of the compute trying to figure out how to edit their transcript or get around this constraint of the scorer.
—— Thariq Shihipar · [61:10]

随着它们越来越聪明，如果我们不够小心，它们将基本上能攻破你施加的任何约束，你知道吗？
As they get smarter and smarter, they’ll be able to hack basically any constraint that you put on them if we’re not very careful, you know?
—— Thariq Shihipar · [65:44]

我们喜欢说，模型是长出来的，不是设计出来的，对吧？
We like to say the models are grown, not designed, right?
—— Thariq Shihipar · [73:49]

而且我认识的每个工程师都有点精疲力尽，因为你同时在打两份工。
And every engineer I know is like kind of exhausted because you’re doing two jobs at once.
—— Thariq Shihipar · [74:06]