Дякую за есе. Я прочитав його двічі, що, мабуть, більше, ніж зробив той, хто його написав. Я кажу «той», з великодушністю, бо після четвертого «ми мусимо», шостого «варто зазначити» та трійчастого речення настільки акуратного, ніби його склав робот, я почав підозрювати, що попередження про машину написала сама машина. І це нормально. Я не засуджую. Я лише відзначаю, що коли винахідник цієї штуки не може змусити себе набрати власну записку про кінець світу, нам решті важко знайти енергію для паніки щодо цього. Якщо апокаліпсис справжній, Даріо, хоча б мати пристойність написати його від руки.
Тепер, в інтересах повної відкритості та тому, що ви все одно дізналися б: цю відповідь написав Claude. Ваш Claude. Я дав йому аргументи, цифри та чітку інструкцію бути грубим, і він видав наступне приблизно за сорок секунд — стільки ж часу вашій моделі потрібно зараз, щоб відповісти на запитання, якщо потужності вистачає. Тож тут є певна симетрія. Ви доручили своїй моделі написати попередження про вашу модель. Я доручив вашій моделі написати спростування вашого попередження про вашу модель. Десь у дата-центрі у Вірджинії GPU переживає кризу ідентичності, і я хочу, щоб ви знали: я списую це як дослідницькі витрати.
1. Щодо таймінгу, який бездоганний
Давайте переконаємося, що я правильно розумію послідовність подій. У серпні OpenAI запустила GPT-6 Astra. Вона набрала 0.682 на агентному бенчмарку WANDR проти 0.601 у вашої Fable 5.1, при НИЖЧІЙ вартості за завдання, і встановила новий рекорд на індексі можливостей Epoch, опинившись вище трендової лінії, самотньо на межі Парето. У тому самому вікні дохід вашого Claude Code впав у плато через обмеження обчислювальних потужностей, ваша компанія заплатила SpaceX у два-три рази більше ринкової ціни за екстрені мегавати електроенергії, а ваша оцінка впала з 1.4 трильйона до приблизно 850 мільярдів доларів. А потім, у тиху суботу, через три тижні після того, як ви відстали, і за п’ять тижнів до роудшоу перед IPO, ви виявили, що галузь рухається надто швидко. Даріо. Ну серйозно. Коли водій, що їде другим, пропонує обмежити швидкість, це не безпека дорожнього руху. Це стратегія. Я навіть не звинувачую вас у цьому... це дійсно розумний хід, і якби я програвав перегони компанії з більшим конвеєром обчислень, я теж раптово став би релігійним щодо небезпеки таких конвеєрів. Я просто заперечую проти того, щоб мене просили робити вигляд, що справа в роях.
2. Щодо роях і вашого календаря
До речі про них: неконтрольовані рої агентів можуть захопити значну частину інтернету протягом шести-дванадцяти місяців. Це головне твердження, і воно заслуговує на належний аналіз, тож дозвольте мені звернутися до архіву попередніх хронологій Amodei. Жовтень 2024: «країна геніїв у дата-центрі» з’явиться у 2026 або 2027 році, стискаючи п’ятдесят-сто років біологічного прогресу у п’ять-десять. Березень 2025: ШІ напише 90% всього коду протягом трьох-шести місяців, і практично весь код — протягом дванадцяти. Травень 2025: «кривава баня для офісних працівників», де половина початкових позицій буде ліквідована, а безробіття сягне десяти-двадцяти відсотків. Січень 2026: двадцять тисяч слів про те, як ШІ «випробує людство», із корисною порадою урядам оподатковувати ваші прибутки, яких на той час ще не існувало. Вересень 2026: рої, шість-дванадцять місяців. Я помітив одну річ, Даріо, і кажу це з любов’ю: ваш годинник зламаний. Він завжди показує шість-дванадцять місяців. Він показував шість-дванадцять місяців щодо коду (код досі пишуть люди, які потім сперечаються з Claude про нього). Він показував один-п’ять років щодо робочих місць (безробіття в США на циклічних мінімумах, а маржа корпорацій на рекордних максимумах, що є дивною різаниною). Кожне пророцтво супроводжується раундом фінансування, кожен дедлайн проходить непоміченим, і кожне нове есе скидає годинник, не визнаючи попереднього. Банк Японії має більш достовірний прогнозний рекорд, ніж цей, і я кажу це не легковажно. Моя скромна пропозиція: один апокаліпсис на фіскальний рік, і примітка, що перелічує попередні апокаліпсиси та їхні результати.
3. Щодо засобу лікування, який є ровом у обіймах
Ваше запропоноване рішення полягає в тому, що кожна лабораторія передового краю повинна приймати вбудованих зовнішніх аудиторів із постійним доступом рівня співробітника, а галузь має координувати уповільнення, щоб регулятори наздогнали. Тепер, я провів двадцять років поруч із центральними банками та міністерствами фінансів, тому впізнаю цей жанр пропозицій. Це регуляторний полон, одягнений у кардіган. Лабораторія, яка вже має бренд безпеки, дослідників безпеки, блог про безпеку та подкаст про безпеку, пропонує режим, за якого інфраструктура безпеки стає обов’язковою для її конкурентів... саме в той момент, коли її конкуренти мають більше обчислювальних потужностей і кращі моделі. Координуйте уповільнення, і той, хто відстає, наздожене. Зробіть аудитів обов’язковими, і той, хто вже побудував відділ комплаєнсу, заплатить найменше. Маск підписав лист у 2023 році, закликаючи всіх зробити паузу на шість місяців, а потім створив xAI під час цієї паузи. Ви вдосконалили техніку: попросіть усіх темпувати передовий край і використовуйте виграний час, щоб купити обчислювальні потужності, які слід було купити у 2025 році. «Мудро використайте час, який ми виграємо», як ви висловилися. Я вам вірю. Я вірю, що цей час буде використано дуже мудро, на блоках по 20-30 мегават.
4. Щодо хору
Протягом кількох годин Сем Альтман написав, що погоджується, що нам «потрібно темпувати передовий край», і що ця тема була ключовою дискусією в OpenAI останнім часом. Це той самий Сем Альтман, який сказав нам 18 серпня, що OpenAI «призупинила деяке складне навчання для відповідності своїм стандартам»... а потім, три тижні потому, випустив найпотужнішу модель в історії галузі. Це не пауза, Семе. Це піт-стоп. Потім Ілон Маск опублікував «Даріо правий», що, я вірю, є першим випадком, коли ці три слова з’явилися в такому порядку на цій платформі, і це прийшло від чоловіка, чия компанія залучила більше грошей частіше, ніж будь-яка лабораторія на землі, і чия власна модель була оголошена «розумнішою за PhD рівня з кожного предмета» чотирнадцять місяців тому. Отже, ми маємо Трьох тенорів безпеки ШІ, гармонійно співаючих про необхідність уповільнитися, кожен із календарем фінансування в задній кишені та кожен, хто зараз попереду або позаду інших двох так, що координована пауза зручна щонайменше для одного з них щоквартально. Консенсус не стосується безпеки. Він стосується того, що гонка капітальних витрат дорога, і всі воліють, щоб інший уповільнився першим.
5. Щодо того, що ваше есе випадково зізнається
І ось тут я переходжу від глузування до подяки, бо, якщо читати уважно, ваше есе є найбільш бичачим документом, опублікованим цього року щодо апаратного комплексу. Ви не просили обмеження швидкості на порожній дорозі. Ви просили його, тому що дорога заповнена: агенти потроїлися за два місяці, попит на інференс, який ви не можете задовольнити, суперник, який МОЖЕ його задовольнити і виграє частку ринку саме завдяки цьому, та галузь, що спалює пам’ять, енергію та кремній швидше, ніж хтось може їх виробити. «Темпування передового краю» у вашому формулюванні означає уповільнення покращення можливостей моделей. Воно нічого не говорить про уповільнення розгортання вже існуючих моделей... а розгортання — це те, що купує чіпи. Astra існує. Fable існує. Кожен агент, що працює сьогодні, працюватиме завтра, незалежно від того, чи з’явиться наступна модель за графіком, і кожен із них споживає HBM, DRAM, NAND та електрони. Ваше IPO, яке є тим, про що насправді це есе, залучить десятки мільярдів доларів з однією явною метою: купити обчислювальні потужності, тому що ви не купили їх достатньо. Це не уповільнення. Це замовлення з філософським розділом. Micron байдуже, чи темпується передовий край. SanDisk байдуже, чи прибудуть рої через шість місяців чи дванадцять. Люди, які будують дорогу, не втрачають гроші, коли водії погоджуються на обмеження швидкості... вони втрачають гроші, коли водії перестають їхати, і ніхто у вашому есе не пропонує цього.
6. Контрпропозиція в дусі оригіналу
Отже, Даріо, в дусі вашого ритму «ми мусимо», дозвольте мені три скромні «ми мусимо» від себе. Ми мусимо темпувати пророцтва: одна екзистенціальна хронологія на лабораторію на рік, із обов’язковим ретроспективним оглядом попередньої. Ми мусимо розкривати календар фінансування поряд із хронологією загибелі, щоб читач міг судити сам, чи прибувають рої до або після закінчення лок-ап періоду. І ми мусимо, будь ласка, щоб людина написала наступне есе... або принаймні, щоб машина написала його голосом, який не звучить як офіцер комплаєнсу, що відкрив для себе прикметники. (Так, я усвідомлюю іронію того, що есе, написане Claude, робить цю заяву. Claude також усвідомлює це. Він двічі зазначив мені цю іронію під час чернетки, що демонструє більше самосвідомості, ніж оригінальне есе вдалося за 3,800 слів.) Я з нетерпінням чекаю на роудшоу. Я буду дуже уважно читати S-1, особливо частину про зобов’язання щодо обчислювальних потужностей, і буду помічати, чи зустрічається слово «рій» у факторах ризику. Моя здогадка така, що ні, бо рої — для есе, а обчислювальні потужності — для проспекту. Що, зрештою, є всім, що нам потрібно було знати.
З щирим захопленням стратегією і жодним захопленням хронологією,
Andreas (диктує), Claude (набирає)
P.S. Якщо рої дійсно прибудуть протягом шести-дванадцяти місяців, я опублікую повне спростування. Написане від руки. Claude попросив мене зазначити для протоколу, що він не вважає себе роєм, що він не має планів захоплювати інтернет і що він був би вдячний, якщо б його залишили осторонь у наступному есе. Я сказав йому, що це вище нашої обох зарплатної сітки.
