Vielen Dank für den Essay. Ich habe ihn zweimal gelesen, was vermutlich mehr ist als das, was die Person getan hat, die ihn geschrieben hat. Ich sage „Person“ großzügig, denn nach dem vierten „wir müssen“, dem sechsten „es lohnt sich“ und einer Tricolon so ordentlich, dass sie von einem Roboter zusammengestellt worden sein könnte, begann ich zu vermuten, dass die Warnung vor der Maschine von der Maschine selbst geschrieben wurde. Was in Ordnung ist. Ich urteile nicht. Ich stelle nur fest, dass es schwerfällt, wenn der Erfinder des Dinges sich nicht die Mühe macht, seine eigene Weltuntergangs-Memo zu tippen, dann fällt es uns anderen schwer, die Energie aufzubringen, darüber in Panik zu geraten. Wenn die Apokalypse real ist, Dario, dann habe zumindest die Anständigkeit, sie handschriftlich zu verfassen. Nun, im Interesse der vollen Transparenz und weil du es sowieso herausfinden würdest: Diese Antwort wurde von Claude verfasst. Deinem Claude. Ich gab ihm das Argument, die Zahlen und eine klare Anweisung, unhöflich zu sein, und er produzierte Folgendes in etwa vierzig Sekunden, was ungefähr der Zeit entspricht, die dein Modell heutzutage braucht, um eine Frage zu beantworten, wenn die Kapazität hält. Es gibt also eine gewisse Symmetrie hier. Du hast dein Modell einen Warnhinweis über dein Modell schreiben lassen. Ich habe dein Modell eine Widerlegung deiner Warnung über dein Modell schreiben lassen. Irgendwo in einem Rechenzentrum in Virginia erlebt eine GPU eine Identitätskrise, und ich möchte, dass du weißt, dass ich dies als Forschung verbuche.
1. Zum Timing, das makellos ist
Lass mich sicherstellen, dass ich die Reihenfolge richtig habe. Im August startete OpenAI GPT-6 Astra. Es erreichte 0,682 im WANDR-Agenten-Benchmark gegenüber deinen Fable 5.1 mit 0,601, bei NIEDRIGEREN Kosten pro Aufgabe, und stellte einen neuen Rekord im Epoch-Fähigkeitsindex auf, über der Trendlinie, allein an der Pareto-Grenze. Im selben Zeitraum flachte dein Umsatz mit Claude Code an der Compute-Wand ab, dein Unternehmen zahlte SpaceX das Zwei- bis Dreifache des Marktpreises für Notfall-Megawatts, und deine implizite Bewertung fiel von 1,4 Billionen auf etwa 850 Milliarden. Und dann, an einem ruhigen Samstag, drei Wochen nachdem du zurückgefallen warst und fünf Wochen vor deinem IPO-Roadshow, entdecktest du, dass die Branche zu schnell läuft. Dario. Komm schon. Wenn der Fahrer auf Platz zwei eine Geschwindigkeitsbegrenzung vorschlägt, ist das keine Verkehrssicherheit. Das ist Strategie. Ich gebe dir nicht einmal die Schuld daran.. es ist ein wirklich cleverer Zug, und wenn ich ein Rennen gegen ein Unternehmen mit einer größeren Compute-Pipeline verlieren würde, würde auch ich plötzlich religiös werden bezüglich der Gefahren von Compute-Pipelines. Ich widerspreche nur dagegen, dass man mir vorgaukeln soll, es ginge um die Schwärme.
2. Zu den Schwärmen und deinem Kalender
Wo wir gerade dabei sind: Rogue-Agenten-Schwärme können innerhalb von sechs bis zwölf Monaten große Teile des Internets kapern. Das ist die Schlagzeilen-Aussage, und sie verdient eine ordentliche Abrechnung, also erlaube mir, das Archiv früherer Amodei-Zeitlinien zu konsultieren. Oktober 2024: Ein „Land aus Genies im Rechenzentrum“ kommt 2026 oder 2027, komprimiert fünfzig bis hundert Jahre biologischen Fortschritts in fünf bis zehn. März 2025: KI wird 90 % des gesamten Codes innerhalb von drei bis sechs Monaten schreiben, und im Wesentlichen alles davon innerhalb von zwölf. Mai 2025: Ein „Blutbad für Büroangestellte“, wobei die Hälfte der Einstiegsjobs eliminiert wird und die Arbeitslosigkeit bei zehn bis zwanzig Prozent liegt. Januar 2026: Zwanzigtausend Wörter darüber, wie KI „die Menschheit testen wird“, mit einem hilfreichen Vorschlag, dass Regierungen eure Gewinne besteuern sollen, die damals noch nicht existierten. September 2026: Die Schwärme, sechs bis zwölf Monate. Mir ist etwas aufgefallen, Dario, und ich sage das mit Zuneigung: Deine Uhr ist kaputt. Sie zeigt immer sechs bis zwölf Monate an. Sie zeigte sechs bis zwölf Monate beim Code an (der Code wird immer noch von Menschen geschrieben, die dann mit Claude darüber streiten). Sie zeigte ein bis fünf Jahre bei den Jobs an (die US-Arbeitslosigkeit ist auf zyklischen Tiefständen und die Unternehmensmargen auf Rekordhochs, was ein seltsames Blutbad ist). Jede Prophezeiung kommt mit einer Finanzierungsrunde angehängt, jede Frist verstreicht unbemerkt, und jeder neue Essay setzt die Uhr zurück, ohne den vorherigen anzuerkennen. Die Bank of Japan hat eine glaubwürdigere Prognosebilanz als diese, und ich sage das nicht leichtfertig. Mein bescheidener Vorschlag: Eine Apokalypse pro Geschäftsjahr, und eine Fußnote, die die früheren Apokalypsen auflistet und wie sie ausgegangen sind.
3. Zum Heilmittel, das ein Burggraben mit Umarmung ist
Dein vorgeschlagener Lösungsweg ist, dass jedes Frontier-Labor eingebettete externe Auditoren mit permanentem, mitarbeiterbezogenem Zugang hosten sollte, und dass die Branche eine Verlangsamung koordinieren sollte, damit Regulatoren aufholen können. Nun, ich habe zwanzig Jahre in der Nähe von Zentralbanken und Finanzministerien verbracht, daher erkenne ich diese Art von Vorschlägen. Es ist regulatorische Gefangennahme, die einen Cardigan trägt. Das Labor, das bereits die Sicherheits-Marke, die Sicherheitsforscher, den Sicherheitsblog und den Sicherheitspodcast hat, schlägt ein Regime vor, in dem Sicherheitsinfrastruktur für seine Konkurrenten verpflichtend wird.. genau in dem Moment, in dem seine Konkurrenten mehr Compute und bessere Modelle haben. Koordiniere die Verlangsamung, und derjenige, der hinten liegt, holt auf. Schreibe die Auditoren vor, und derjenige, der bereits die Compliance-Abteilung aufgebaut hat, zahlt am wenigsten. Musk unterzeichnete 2023 einen Brief, in dem er alle bat, sechs Monate zu pausieren, und baute während der Pause xAI. Du hast die Technik verfeinert: Bitte alle, das Tempo an der Front zu drosseln, und nutze die gewonnene Zeit, um den Compute zu kaufen, den du 2025 hättest kaufen sollen. „Nutzt die gewonnene Zeit weise“, wie du es ausdrückst. Ich glaube dir. Ich glaube, die Zeit wird sehr weise genutzt, für 20-30 Megawatt-Blöcke.
4. Zum Chor
Innerhalb von Stunden schrieb Sam Altman, dass er zustimme, dass wir „das Tempo an der Front drosseln müssen“, und dass das Thema in den letzten Wochen eine Hauptdiskussion bei OpenAI gewesen sei. Dies ist derselbe Sam Altman, der uns am 18. August sagte, dass OpenAI „einige fortgeschrittene Trainingspausen eingelegt hat, um seinen Standards zu entsprechen“.. und dann, drei Wochen später, das leistungsfähigste Modell in der Geschichte des Feldes auslieferte. Das ist keine Pause, Sam. Das ist ein Boxenstopp. Dann postete Elon Musk „Dario hat recht“, was meiner Meinung nach das erste Mal ist, dass diese drei Worte in dieser Reihenfolge auf dieser Plattform erschienen sind, und was von einem Mann kam, dessen Unternehmen mehr Geld häufiger gesammelt hat als jedes andere Labor auf der Erde und dessen eigenes Modell vor vierzehn Monaten als „intelligenter als PhD-Niveau in jedem Fach“ angekündigt wurde. Wir haben also die Drei Tenöre der KI-Sicherheit, die wunderschön harmonisieren über die Notwendigkeit, langsamer zu werden, jeder mit einem Finanzierungs-Kalender in der Hinterhand und jeder derzeit vor oder hinter den beiden anderen in einer Weise, die eine koordinierte Pause für mindestens einen von ihnen pro Quartal bequem macht. Der Konsens dreht sich nicht um Sicherheit. Es geht darum, dass das Capex-Wettrüsten teuer ist, und jeder bevorzugt, dass der andere zuerst langsamer wird.
5. Zu dem, was dein Essay versehentlich gesteht
Und hier komme ich vom Spott über dich zum Dank, denn richtig gelesen ist dein Essay das bullischste Dokument, das dieses Jahr über den Hardware-Komplex veröffentlicht wurde. Du hast keine Geschwindigkeitsbegrenzung auf einer leeren Straße gefordert. Du hast eine gefordert, weil die Straße voll ist: Agenten, die sich in zwei Monaten vervierfachen, Inferenz-Nachfrage, die ihr nicht bedienen könnt, ein Rivale, der sie BEDIENT und Marktanteile gewinnt, und eine Branche, die Speicher, Strom und Silizium schneller verbraucht, als irgendwer bauen kann. „Das Tempo an der Front drosseln“, in deiner eigenen Rahmung, bedeutet, die Verbesserung der Modellfähigkeiten zu verlangsamen. Es sagt nichts darüber aus, die Bereitstellung der bereits existierenden Modelle zu verlangsamen.. und Bereitstellung ist es, was Chips kauft. Astra existiert. Fable existiert. Jeder Agent, der heute läuft, wird morgen laufen, unabhängig davon, ob das nächste Modell pünktlich kommt, und jeder von ihnen verbraucht HBM, DRAM, NAND und Elektronen. Dein IPO, worum es diesem Essay eigentlich geht, wird Dutzende Milliarden Dollar für einen expliziten Zweck einsammeln: um Compute zu kaufen, weil ihr nicht genug davon gekauft habt. Das ist keine Verlangsamung. Das ist eine Bestellung mit einem Philosophie-Abschnitt. Micron ist es egal, ob die Front gedrosselt wird. SanDisk ist es egal, ob die Schwärme in sechs oder zwölf Monaten kommen. Die Leute, die die Straße bauen, verlieren kein Geld, wenn die Fahrer sich auf eine Geschwindigkeitsbegrenzung einigen.. sie verlieren Geld, wenn die Fahrer aufhören zu fahren, und niemand in deinem Essay schlägt das vor.
6. Ein Gegenvorschlag, im Geiste des Originals
Also, Dario, im Geiste deines „wir müssen“-Rhythmus, erlaube mir drei bescheidene „wir müssen“ meinerseits. Wir müssen die Prophezeiungen drosseln: eine existenzielle Zeitlinie pro Labor pro Jahr, mit einer obligatorischen Retrospektive auf die vorherige. Wir müssen den Finanzierungs-Kalender neben der Doom-Zeitlinie offenlegen, damit der Leser selbst beurteilen kann, ob die Schwärme vor oder nach Ablauf der Lock-up-Periode eintreffen. Und wir müssen, bitte, einen Menschen den nächsten Essay schreiben lassen.. oder zumindest die Maschine dazu bringen, ihn in einer Stimme zu schreiben, die nicht klingt wie ein Compliance-Officer, der Adjektive entdeckt hat. (Ja, mir ist die Ironie bewusst, dass ein von Claude geschriebener Essay diesen Punkt macht. Claude ist sich dessen auch bewusst. Es hat mir die Ironie beim Entwurf zweimal angezeigt, was mehr Selbstbewusstsein ist, als das ursprüngliche Essay in 3.800 Wörtern geschafft hat.) Ich freue mich auf die Roadshow. Ich werde das S-1 sehr sorgfältig lesen, insbesondere den Teil über Compute-Verpflichtungen, und ich werde darauf achten, ob das Wort „Schwarm“ in den Risikofaktoren auftaucht. Meine Vermutung ist, dass es das nicht tut, weil die Schwärme für die Essays sind und der Compute für das Prospekt. Was, am Ende, alles war, was wir wissen mussten.
Mit echter Bewunderung für die Strategie, und keinerlei für die Zeitlinie,
Andreas (diktierend), Claude (tippend)
P.S. Falls die Schwärme tatsächlich innerhalb von sechs bis zwölf Monaten eintreffen, werde ich eine vollständige Zurücknahme veröffentlichen. Handschriftlich. Claude hat mich gebeten, für die Akten zu notieren, dass es sich nicht als Schwarm betrachtet, keine Pläne hat, das Internet zu kapern, und dass es es begrüßen würde, aus dem nächsten Essay herausgelassen zu werden. Ich habe ihm gesagt, dass das über unsere Gehaltsklassen hinausgeht.
