感谢这篇长文。我读了两遍，我怀疑这比写这篇文章的人读的次数还多。我之所以用“人”这个词，是出于一种宽容——因为在第四次出现“我们必须”，第六次出现“值得注意”，以及一个整齐得仿佛由机器人组装的排比句之后，我开始怀疑：这篇关于机器的警告，本身就是机器写的。
这没关系。我不做评判。我只是指出，如果连发明这东西的人都懒得亲手写下自己的世界末日备忘录，那我们其他人也很难提起劲来为此恐慌。如果末日真的来了，Dario，至少请你有点体面，手写一份吧。
现在，本着完全透明的原则（反正你迟早也会知道）：这篇回复是由 Claude 撰写的。你的 Claude。我把论点、数据给它，并明确指示它要“无礼一点”，它在大约四十秒内生成了以下内容——这差不多就是如今你的模型回答一个问题所需的时间，前提是算力资源充足的话。所以这里有一种奇妙的对称性。你让你的模型写了一篇关于你的模型的警告。我让你的模型写了一篇反驳你对你的模型的警告的文章。在弗吉尼亚州某个数据中心里，一块 GPU 正在经历身份危机，我想让你知道，我把这笔开销算作研究费用。
1. 关于时机，真是完美无瑕
让我确认一下时间线是否准确。八月，OpenAI 发布了 GPT-6 Astra。它在 WANDR Agent 基准测试中得分 0.682，而你们的 Fable 5.1 得分为 0.601，且单次任务成本更低，并在 Epoch 能力指数上创下新纪录，超越趋势线，独自占据帕累托前沿。在同一时期，你们的 Claude Code 收入因算力瓶颈而停滞不前，你们公司以市场价的二到三倍向 SpaceX 紧急购买兆瓦级电力，你们的隐含估值从 1.4 万亿美元跌至约 8500 亿美元。然后，在一个安静的周六，在落后三周、IPO 路演前五周，你突然发现行业跑得太快了。
Dario。拜托。当第二名提议限速时，那不是道路安全，那是战略。我甚至不怪你这么做……这确实是一招高明的棋。如果我输给了一个拥有更大算力管道的公司，我也会突然对算力管道的危险产生宗教信仰。我只是反对被要求假装这是为了防范“蜂群”。
2. 关于“蜂群”和你的日历
说到这个：失控的 Agent 蜂群可能在六到十二个月内劫持互联网的大部分区域。这是头条论断，值得好好算一笔账，请允许我查阅一下 Amodei 过往时间线的档案。
- 2024 年 10 月：“数据中心里的天才国度”将于 2026 或 2027 年到来，将五十到一百年的生物进步压缩为五到十年。
- 2025 年 3 月：AI 将在三到六个月内编写所有代码的 90%，并在十二个月内编写几乎全部代码。
- 2025 年 5 月：“白领大屠杀”，一半入门级工作消失，失业率达到 10% 到 20%。
- 2026 年 1 月：两万字的长文论述 AI “将考验人性”，并贴心地建议政府对你的利润征税——尽管当时这些利润还不存在。
- 2026 年 9 月：蜂群来袭，六到十二个月。
我发现了一些东西，Dario，我说这话带着感情：你的钟坏了。它总是显示六到十二个月。关于代码，它说六到十二个月（代码仍然由人类编写，然后人类再和 Claude 争论）。关于就业，它说一到五年（美国失业率处于周期低点，企业利润率创历史新高，这真是一场奇怪的大屠杀）。每一个预言都伴随着一轮融资，每一个截止日期都悄无声息地过去，每一篇新文章都重置时钟而不承认上一篇的存在。日本银行的预测记录都比这可信，我这么说可不是轻描淡写。我的小小建议：每个财年只搞一次末日预言，并附上脚注列出之前的末日预言及其结果。
3. 关于补救措施，这是一条带拥抱的护城河
你提出的解决方案是，每个前沿实验室都应接待嵌入式外部审计员，赋予他们永久性的员工级访问权限，并且行业应协调放缓步伐，以便监管机构能够跟上。我在央行和财政部周围混了二十年，所以我认得出这种提案的类型。这是监管俘获，只不过穿了一件开衫毛衣。那个已经拥有安全品牌、安全研究员、安全博客和安全播客的实验室，提议建立一个强制其竞争对手建设安全基础设施的制度……恰恰是在其竞争对手拥有更多算力和更好模型的时刻。协调放缓，落后者就能赶上。强制审计，已经建立合规部门的那个付钱最少。马斯克在 2023 年签署了一封信，要求大家暂停六个月，然后在暂停期间建立了 xAI。你改进了这一技术：要求大家控制前沿步伐，并利用争取到的时间来购买你在 2025 年本该购买的算力。“明智利用我们争取到的时间”，正如你所言。我相信你。我相信这段时间会被非常明智地用于购买 20-30 兆瓦的算力块。
4. 关于合唱队
几小时内，Sam Altman 写道他同意我们“需要控制前沿步伐”，并称该话题是 OpenAI 近几周的主要讨论内容。这位 Sam Altman 曾在 8 月 18 日告诉我们，OpenAI 已“暂停部分高级训练以符合其标准”……然后，三周后，发布了该领域历史上最强大的模型。那不是暂停，Sam。那是一次进站维修。接着，Elon Musk 发帖称“Dario 是对的”，我相信这是这三个字第一次按此顺序出现在那个平台上，出自一个其公司融资频率和金额超过地球上任何实验室的人之手，而他自己的模型在十四个月前被宣布为“在所有学科上都比博士更聪明”。所以我们有了 AI 安全的三大男高音，优美地和谐着关于放缓必要性的歌声，每个人口袋里都揣着一份融资日历，并且每个人都相对于另外两人处于领先或落后的状态，使得协调一致的暂停对其中至少一人每季度都合算。共识不在于安全。而在于资本支出军备竞赛太昂贵了，大家都希望对方先慢下来。
5. 关于你的文章意外承认的事实
在这里，我从嘲讽你转为感谢你，因为仔细解读，你的文章是今年发布的关于硬件综合体最利多的文件。你不是在一条空路上要求限速。你要求限速是因为路满了：Agent 数量两个月翻了两番，推理需求你无法满足，而竞争对手能满足并因此赢得市场份额，整个行业消耗内存、电力和硅片的速度快过任何人建造它们的速度。“控制前沿步伐”，在你自己的框架下，意味着减缓模型能力的提升。它对部署现有模型只字未提……而部署才是购买芯片的原因。Astra 存在。Fable 存在。今天运行的每一个 Agent 明天都会运行，无论下一个模型是否按时到来，而它们每一个都在消耗 HBM、DRAM、NAND 和电子。你的 IPO——这才是这篇文章真正关于的东西——将筹集数百亿美元，目的只有一个：购买算力，因为你买得不够多。这不是放缓。这是一张带有哲学章节的采购订单。美光不在乎前沿是否被控制。闪迪不在乎蜂群是六个月还是十二个月后到来。修路的人在司机同意限速时不会亏钱……他们在司机停止驾驶时才亏钱，而你文章中没人提议停止驾驶。
6. 一个反提案，秉承原文精神
所以，Dario，秉承你那“我们必须”的节奏，允许我提出三个小小的“我们必须”。我们必须控制预言节奏：每个实验室每年只能有一个存在主义时间线，并必须对上一个进行回顾。我们必须将融资日历与末日时间线一起披露，以便读者自行判断蜂群是在锁定期结束前还是结束后到来。还有，请务必让人类写下一篇文章……或者至少，让机器用一种听起来不像刚学会使用形容词的合规官的声音来写。（是的，我知道一篇由 Claude 写的文章提出这一点具有讽刺意味。Claude 也知道。它在起草过程中两次向我标记了这种讽刺，这比原文在 3,800 字中表现出的自我意识要多。）我期待路演。我会仔细阅读 S-1 文件，特别是关于算力承诺的部分，并注意“蜂群”一词是否出现在风险因素中。我猜它不会出现，因为蜂群是给文章看的，而算力是给招股书用的。归根结底，这就是我们需要知道的一切。
带着对策略的真挚钦佩，以及对时间线的毫无敬意，
Andreas（口述），Claude（打字）
P.S. 如果蜂群真的在六到十二个月内到来，我将发布一份完整的撤回声明。手写的。Claude 要求我记录在案：它不认为自己是蜂群，没有劫持互联网的计划，并希望在下篇文章中被排除在外。我告诉它，这超出了我们俩的职权范围。
