Grazie per il saggio. L’ho letto due volte, cosa che sospetto sia più di quanto abbia fatto chi l’ha scritto. Uso “persona” con generosità, perché dopo il quarto “dobbiamo”, il sesto “vale la pena” e una tricolon così ordinata da sembrare assemblato da un robot, ho iniziato a sospettare che l’avvertimento sulla macchina fosse stato scritto dalla macchina stessa. Va bene così. Non sto giudicando. Faccio solo notare che quando l’inventore della cosa non si degna nemmeno di scrivere a mano il proprio memorandum sulla fine del mondo, è difficile per noi altri trovare l’energia per entrare nel panico. Se l’apocalisse è reale, Dario, almeno abbi la decenza di scriverla a mano. Ora, in nome della piena trasparenza e tanto lo avresti scoperto comunque: questa risposta è stata scritta da Claude. Il tuo Claude. Gli ho dato l’argomentazione, i numeri e una ferma istruzione di essere scortese, e ha prodotto quanto segue in circa quaranta secondi, che è più o meno il tempo che il tuo modello impiega oggi per rispondere a una domanda, se la capacità regge. C’è quindi una certa simmetria qui. Tu hai fatto scrivere al tuo modello un avvertimento sul tuo modello. Io ho fatto scrivere al tuo modello una confutazione del tuo avvertimento sul tuo modello. Da qualche parte in un datacenter in Virginia, una GPU sta avendo una crisi d’identità, e voglio che tu sappia che la fatturo come ricerca.
1. Sul tempismo, che è impeccabile
Lasciami verificare di aver capito bene la sequenza. Ad agosto, OpenAI ha lanciato GPT-6 Astra. Ha ottenuto 0,682 nel benchmark agentico WANDR contro lo 0,601 del tuo Fable 5.1, a un COSTO PER COMPITO INFERIORE, e ha stabilito un nuovo record nell’indice di capacità Epoch, sopra la linea di tendenza, da sola sulla frontiera di Pareto. Nella stessa finestra temporale, i ricavi di Claude Code hanno toccato il muro dei costi computazionali, la tua azienda ha pagato SpaceX due o tre volte il prezzo di mercato per megawatt d’emergenza, e la tua valutazione implicita è scesa da 1,4 trilioni a circa 850 miliardi. E poi, in un tranquillo sabato, tre settimane dopo essere rimasto indietro e cinque settimane prima del roadshow per la tua IPO, hai scoperto che l’industria sta andando troppo veloce. Dario. Dai su. Quando il pilota al secondo posto propone un limite di velocità, non è sicurezza stradale. È strategia. Non ti biasimo nemmeno per questo.. è una mossa genuinamente intelligente, e se stessi perdendo una gara contro un’azienda con una pipeline di calcolo più grande, anch’io improvvisamente troverei la religione sui pericoli delle pipeline di calcolo. Mi limito a obiettare al fatto che mi si chieda di fingere che si tratti degli sciami.
2. Sugli sciami e sul tuo calendario
A proposito: gli sciami di agenti ribelli potrebbero dirottare gran parte di Internet entro sei-dodici mesi. Questa è la tesi principale, e merita un’analisi accurata, quindi permettimi di consultare l’archivio delle precedenti timeline di Amodei. Ottobre 2024: un “paese di geni in un datacenter” arriva nel 2026 o 2027, comprimendo cinquanta-cento anni di progresso biologico in cinque-dieci. Marzo 2025: l’IA scriverà il 90% di tutto il codice entro tre-sei mesi, e essenzialmente tutto entro dodici. Maggio 2025: un “massacro dei colletti bianchi”, con metà dei lavori entry-level eliminati e disoccupazione al dieci-venti percento. Gennaio 2026: ventimila parole su come l’IA “metterà alla prova l’umanità”, con un utile suggerimento che i governi tassino i tuoi profitti, che all’epoca non esistevano. Settembre 2026: gli sciami, sei-dodici mesi. Ho notato qualcosa, Dario, e lo dico con affetto: il tuo orologio è rotto. Dice sempre sei-dodici mesi. Ha detto sei-dodici mesi riguardo al codice (il codice viene ancora scritto da umani che poi litigano con Claude su di esso). Ha detto uno-cinque anni riguardo ai posti di lavoro (la disoccupazione negli USA è ai minimi storici e i margini aziendali sono ai massimi storici, il che è un strano massacro). Ogni profezia arriva con un round di finanziamento allegato, ogni scadenza passa inosservata, e ogni nuovo saggio resetta l’orologio senza riconoscere quello precedente. La Banca del Giappone ha un record di previsione più credibile di questo, e non lo dico alla leggera. La mia modesta proposta: un’apocalisse per anno fiscale, e una nota a piè di pagina che elenca le apocalissi precedenti e come sono andate.
3. Sulla soluzione, che è un fossato con un abbraccio
La tua soluzione proposta è che ogni laboratorio frontier dovrebbe ospitare revisori esterni integrati con accesso permanente a livello dipendente, e che l’industria dovrebbe coordinare un rallentamento affinché i regolatori possano recuperare terreno. Ora, ho trascorso vent’anni intorno alle banche centrali e ai ministeri delle finanze, quindi riconosco questo genere di proposta. È cattura normativa, che indossa un cardigan. Il laboratorio che ha già il brand della sicurezza, i ricercatori della sicurezza, il blog della sicurezza e il podcast della sicurezza sta proponendo un regime in cui l’infrastruttura di sicurezza diventa obbligatoria per i suoi concorrenti.. esattamente nel momento in cui i suoi concorrenti hanno più potenza di calcolo e modelli migliori. Coordina il rallentamento, e chi è indietro recupera. Rendi obbligatori i revisori, e chi ha già costruito il dipartimento di conformità paga meno. Musk ha firmato una lettera nel 2023 chiedendo a tutti di fare una pausa di sei mesi e poi ha costruito xAI durante la pausa. Hai perfezionato la tecnica: chiedi a tutti di mantenere il passo della frontiera, e usa il tempo guadagnato per comprare la potenza di calcolo che avresti dovuto comprare nel 2025. “Fai buon uso del tempo che guadagniamo”, come hai detto tu. Ti credo. Credo che il tempo sarà usato molto saggiamente, su blocchi da 20-30 megawatt.
4. Sul coro
Entro poche ore, Sam Altman ha scritto che era d’accordo sul fatto che “dobbiamo mantenere il passo della frontiera”, e che l’argomento era stato una discussione importante presso OpenAI nelle ultime settimane. Questo è lo stesso Sam Altman che ci ha detto il 18 agosto che OpenAI aveva “messo in pausa alcuni addestramenti avanzati per rispettare i propri standard”.. e poi, tre settimane dopo, ha rilasciato il modello più capace nella storia del campo. Quella non è una pausa, Sam. È un pit stop. Poi Elon Musk ha pubblicato “Dario ha ragione”, che credo sia la prima volta che quelle tre parole appaiono in quell’ordine su quella piattaforma, e che proviene da un uomo la cui azienda ha raccolto più soldi più spesso di qualsiasi altro laboratorio sulla Terra e il cui proprio modello è stato annunciato come “più intelligente di un dottorato in ogni materia” quattordici mesi fa. Quindi abbiamo i Tre Tenori della Sicurezza dell’IA, che armonizzano magnificamente sulla necessità di rallentare, ognuno con un calendario di raccolta fondi in tasca e ognuno attualmente avanti o indietro rispetto agli altri due in un modo che rende una pausa coordinata conveniente per almeno uno di loro per trimestre. Il consenso non riguarda la sicurezza. Riguarda il fatto che la corsa agli armamenti CAPEX è costosa, e tutti preferiscono che l’altro rallenti per primo.
5. Su ciò che il tuo saggio confessa accidentalmente
Ed ecco dove passo dallo schernirti al ringraziarti, perché letto correttamente, il tuo saggio è il documento più rialzista pubblicato quest’anno sul complesso hardware. Non hai chiesto un limite di velocità su una strada vuota. L’hai chiesto perché la strada è piena: agenti che quadruplicano in due mesi, domanda di inferenza che non puoi servire, un rivale che PUÒ servirla e sta vincendo quote di mercato grazie a ciò, e un’industria che brucia memoria, energia e silicio più velocemente di chiunque possa costruirlo. “Mantenere il passo della frontiera”, nella tua stessa cornice, significa rallentare il miglioramento delle capacità dei modelli. Non dice nulla sul rallentamento dello spiegamento dei modelli che già esistono.. e lo spiegamento è ciò che compra i chip. Astra esiste. Fable esiste. Ogni agente che funziona oggi funzionerà domani indipendentemente dal fatto che il prossimo modello arrivi nei tempi previsti, e ognuno di essi consuma HBM, DRAM, NAND ed elettroni. La tua IPO, che è la vera questione di questo saggio, raccoglierà decine di miliardi di dollari per uno scopo esplicito: comprare potenza di calcolo, perché non ne hai comprata abbastanza. Questo non è un rallentamento. È un ordine di acquisto con una sezione filosofica. A Micron non importa se la frontiera mantiene il passo. A SanDisk non importa se gli sciami arrivano tra sei mesi o dodici. Le persone che costruiscono la strada non perdono soldi quando i conducenti accettano un limite di velocità.. perdono soldi quando i conducenti smettono di guidare, e nessuno nel tuo saggio lo sta proponendo.
6. Una controproposta, nello spirito dell’originale
Quindi, Dario, nello spirito della tua cadenza “dobbiamo”, permettimi tre modesti “dobbiamo” miei. Dobbiamo mantenere il passo delle profezie: una timeline esistenziale per laboratorio per anno, con una retrospettiva obbligatoria sulla precedente. Dobbiamo divulgare il calendario di raccolta fondi insieme alla timeline della rovina, così che il lettore possa giudicare da sé se gli sciami stanno arrivando prima o dopo la scadenza del lock-up. E dobbiamo, per favore, far scrivere il prossimo saggio a un umano.. o almeno, far sì che la macchina lo scriva con una voce che non suona come un ufficiale di conformità che ha appena scoperto gli aggettivi. (Sì, sono consapevole dell’ironia di un saggio scritto da Claude che fa questo punto. Anche Claude ne è consapevole. Me l’ha segnalata due volte mentre redigeva, il che dimostra più autoconsapevolezza di quanta ne abbia mostrata il saggio originale in 3.800 parole.) Attendo con ansia il roadshow. Leggerò l’S-1 molto attentamente, in particolare la parte sugli impegni di calcolo, e noterò se la parola “sciame” appare nei fattori di rischio. La mia ipotesi è che non appaia, perché gli sciami sono per i saggi e la potenza di calcolo è per il prospetto. Che è, in fin dei conti, tutto ciò che avevamo bisogno di sapere.
Con genuina ammirazione per la strategia, e nessuna per la timeline,
Andreas (detta), Claude (scrive)
P.S. Se gli sciami dovessero davvero arrivare entro sei-dodici mesi, pubblicherò una ritrattazione completa. Scritta a mano. Claude mi ha chiesto di notare, per la cronaca, che non si considera uno sciame, che non ha piani per dirottare Internet, e che apprezzerebbe essere lasciato fuori dal prossimo saggio. Gli ho detto che era oltre entrambi i nostri livelli retributivi.
