Спасибо за эссе. Я прочитал его дважды, что, подозреваю, больше, чем сделал автор. Я говорю «автор» великодушно, потому что после четвертого «мы должны», шестого «стоит отметить» и триколона настолько аккуратного, будто его собрал робот, я начал подозревать, что предупреждение о машинах написал сам ИИ. Что ж, ничего страшного. Я не осуждаю. Я лишь отмечу: когда изобретатель технологии не удосуживается лично написать свою записку о конце света, остальным из нас сложно найти силы для паники по этому поводу. Если апокалипсис реален, Дарио, хотя бы напиши его от руки.
Теперь, в интересах полной прозрачности и поскольку вы все равно бы узнали: этот ответ написан Claude. Вашим Claude. Я дал ему аргументы, цифры и твердое указание быть грубым, и он выдал следующее примерно за сорок секунд — это как раз то время, которое ваша модель тратит на ответ на вопрос в наши дни, если мощности позволяют. Так что здесь есть определенная симметрия. Вы попросили вашу модель написать предупреждение о вашей модели. Я попросил вашу модель написать опровержение вашего предупреждения о вашей модели. Где-то в дата-центре в Вирджинии GPU переживает кризис идентичности, и хочу, чтобы вы знали: я списываю это на исследовательские расходы.
1. О тайминге, который безупречен
Давайте убедимся, что я правильно понял последовательность событий. В августе OpenAI запустила GPT-6 Astra. Она набрала 0,682 в агентном бенчмарке WANDR против 0,601 у вашей Fable 5.1, при более НИЗКОЙ стоимости за задачу и установила новый рекорд в индексе возможностей Epoch, превысив трендовую линию и оставшись единственной на границе Парето. В тот же период выручка вашего Claude Code упёрлась в потолок вычислительных мощностей, ваша компания платила SpaceX в два-три раза выше рыночной ставки за экстренные мегаватты, а подразумеваемая оценка компании упала с 1,4 трлн до примерно 850 млрд долларов. А затем, в тихую субботу, через три недели после того, как вы отстали, и за пять недель до роудшоу перед IPO, вы обнаружили, что отрасль движется слишком быстро. Дарио. Ну правда? Когда гонщик на втором месте предлагает ввести ограничение скорости, это не про безопасность дорог. Это стратегия. Я даже не виню вас за это.. это действительно умный ход, и если бы я проигрывал гонку компании с большим конвейером вычислений, я бы тоже внезапно обрел веру в опасность таких конвейеров. Я просто возражаю против попыток заставить меня притворяться, что речь идет о роях агентов.
2. О роях и вашем календаре
Кстати, о них: rogue agent swarms (роями автономных агентов) могут захватить значительную часть интернета в течение шести-двенадцати месяцев. Это главный тезис, и он заслуживает серьезного анализа, так что позвольте мне обратиться к архиву предыдущих прогнозов Amodei. Октябрь 2024: «страна гениев в дата-центре» появится в 2026 или 2027 году, сжимая пятьдесят-сто лет биологического прогресса в пять-десять. Март 2025: ИИ будет писать 90% всего кода в течение трех-шести месяцев, и практически весь код — в течение двенадцати. Май 2025: «кровавая баня для белых воротничков», половина начальных позиций будет ликвидирована, безработица достигнет десяти-двадцати процентов. Январь 2026: двадцать тысяч слов о том, как ИИ «будет испытывать человечество», с полезным предложением правительствам облагать налогом вашу прибыль, которой тогда еще не существовало. Сентябрь 2026: рои, шесть-двенадцать месяцев. Я заметил кое-что, Дарио, и говорю это с любовью: ваши часы сломаны. Они всегда показывают шесть-двенадцать месяцев. Они показывали шесть-двенадцать месяцев относительно кода (код все еще пишут люди, которые потом спорят с Claude). Они показывали один-пять лет относительно рабочих мест (безработица в США находится на минимумах цикла, а корпоративные маржи — на исторических максимумах, что является странной кровавой баней). Каждое пророчество приходит вместе с раундом финансирования, каждый дедлайн проходит незамеченным, и каждое новое эссе сбрасывает часы, не признавая предыдущие. У Банка Японии более надежный прогнозный послужной список, и я говорю это не легкомысленно. Мое скромное предложение: один апокалипсис на финансовый год и сноски со списком предыдущих апокалипсисов и тем, как они завершились.
3. О remedy (лекарстве), которое представляет собой ров с объятиями
Ваше предложенное решение состоит в том, что каждая лаборатория frontier должна принимать внешних аудиторов с постоянным доступом уровня сотрудников, и что отрасль должна координировать замедление, чтобы регуляторы могли догнать ситуацию. Теперь я провел двадцать лет вокруг центральных банков и министерств финансов, поэтому я узнаю этот жанр предложений. Это regulatory capture (захват регулирования), но в кардигане. Лаборатория, которая уже имеет бренд безопасности, исследователей безопасности, блог о безопасности и подкаст о безопасности, предлагает режим, при котором инфраструктура безопасности становится обязательной для её конкурентов.. ровно в тот момент, когда у конкурентов больше вычислительных мощностей и лучшие модели. Координируйте замедление, и отстающий догонит. Сделайте аудиторов обязательными, и тот, кто уже построил отдел комплаенса, заплатит меньше всех. Маск подписал письмо в 2023 году, призывая всех сделать паузу на шесть месяцев, а затем построил xAI во время этой паузы. Вы усовершенствовали технику: попросите всех соблюдать темп на frontier, а полученное время используйте для покупки вычислений, которые нужно было купить в 2025 году. «Мудро использовать время, которое мы получаем», как вы сказали. Я вам верю. Я верю, что время будет использовано очень мудро, на блоки по 20-30 мегаватт.
4. О хоре
В течение нескольких часов Сэм Альтман написал, что согласен с тем, что нам «нужно соблюдать темп на frontier», и что эта тема была главным обсуждением в OpenAI в последние недели. Это тот же самый Сэм Альтман, который сказал нам 18 августа, что OpenAI «приостановила некоторые сложные тренировки, чтобы соответствовать своим стандартам».. а затем, три недели спустя, выпустил самую способную модель в истории отрасли. Это не пауза, Сэм. Это пит-стоп. Затем Илон Маск опубликовал «Дарио прав», что, я полагаю, первый случай появления этих трех слов в таком порядке на той платформе, и это исходит от человека, чья компания привлекала деньги чаще и больше, чем любая лаборатория на земле, и чья собственная модель была анонсирована как «умнее PhD уровня по всем предметам» четырнадцать месяцев назад. Итак, у нас есть Три тенора AI Safety, красиво гармонизирующие о необходимости замедлиться, каждый с календарем привлечения инвестиций за спиной и каждый находящийся впереди или позади двух других таким образом, что скоординированная пауза удобна хотя бы одному из них каждый квартал. Консенсус не о безопасности. Он о том, что гонка CAPEX дорога, и все предпочитают, чтобы другой парень замедлился первым.
5. О том, в чем ваше эссе случайно признается
И вот здесь я перехожу от насмешек над вами к благодарности, потому что, если читать внимательно, ваше эссе является самым бычьим документом, опубликованным в этом году о hardware complex (аппаратном комплексе). Вы не просили ограничения скорости на пустой дороге. Вы попросили их, потому что дорога полна: агенты учетверяются за два месяца, спрос на inference (вывод), который вы не можете удовлетворить, соперник, который МОЖЕТ его удовлетворить и выигрывает долю рынка благодаря этому, и отрасль, сжигающая память, энергию и кремний быстрее, чем кто-либо может построить. «Соблюдение темпа на frontier», в вашей собственной формулировке, означает замедление улучшения возможностей моделей. Ничего не сказано о замедлении развертывания существующих моделей.. а развертывание — это то, что покупает чипы. Astra существует. Fable существует. Каждый агент, работающий сегодня, будет работать завтра независимо от того, выйдет ли следующая модель вовремя, и каждый из них потребляет HBM, DRAM, NAND и электроны. Ваше IPO, ради которого на самом деле написано это эссе, привлечет десятки миллиардов долларов с одной явной целью: купить вычисления, потому что вы купили недостаточно. Это не замедление. Это заказ с философским разделом. Micron плевать, соблюдается ли темп на frontier. SanDisk плевать, придут ли рои через шесть месяцев или двенадцать. Люди, строящие дорогу, не теряют деньги, когда водители соглашаются на ограничение скорости.. они теряют деньги, когда водители перестают ездить, и никто в вашем эссе этого не предлагает.
6. Контрпредложение, в духе оригинала
Итак, Дарио, в духе вашей каденции «мы должны», позвольте мне три скромных «мы должны» от себя. Мы должны соблюдать темп пророчеств: одна экзистенциальная временная шкала на лабораторию в год, с обязательным ретроспективным анализом предыдущей. Мы должны раскрывать календарь привлечения инвестиций вместе с хронологией doom (гибели), чтобы читатель мог сам судить, прибывают ли рои до или после окончания lock-up (блокировки акций). И мы должны, пожалуйста, поручить человеку написать следующее эссе.. или, по крайней мере, пусть машина пишет его голосом, который не звучит как офицер комплаенса, открывший для себя прилагательные. (Да, я осознаю иронию эссе, написанного Claude, делающего это утверждение. Claude тоже это осознает. Он дважды указал мне на эту иронию во время черновика, что демонстрирует больше самосознания, чем удалось оригинальному эссе за 3800 слов.) Я жду роудшоу. Я буду очень внимательно читать S-1, особенно часть об обязательствах по вычислениям, и буду отмечать, появляется ли слово «рой» в факторах риска. Моя догадка — нет, потому что рои нужны для эссе, а вычисления — для проспекта эмиссии. Что, в конечном счете, и было всем, что нам нужно было знать.
С искренним восхищением стратегией и полным отсутствием уважения к срокам,
Andreas (диктовал), Claude (печатал)
P.S. Если рои действительно придут в течение шести-двенадцати месяцев, я опубликую полное опровержение. Написанное от руки. Claude попросил меня отметить для протокола, что он не считает себя роем, у него нет планов по захвату интернета, и он был бы признателен, если бы его исключили из следующего эссе. Я сказал ему, что это выше нашей общей квалификации.
