Jenseits der Schwelle – Warum sich selbst entwickelnde KI nicht einfach nur beschleunigter Darwinismus ist

Die Schwelle betrifft nicht die Fähigkeit. Sie betrifft die Frage, wer die Richtung vorgibt.

Die besten aktuellen Darstellungen selbstmodifizierender KI stoßen alle an dieselbe Grenze und bleiben dort stehen. Sie beschreiben Systeme wie AlphaEvolve – einsatzbereit in Googles Infrastruktur im Jahr 2025, das die Kerne umschreibt, die zum Trainieren von Gemini verwendet werden, und eine Matrixmultiplikationsmethode entdeckt, die sich seit 1969 einer Verbesserung widersetzt hatte – und sie schlussfolgern, zu Recht, dass diese Systeme nun jenseits des vollständigen Verständnisses der Menschen agieren, die sie gebaut haben. Der übliche Name dafür ist Fähigkeitsüberhang: die Kluft zwischen dem, was ein System kann, und dem, was seine Entwickler nachvollziehen können.

Und dann wendet sich das Argument, fast immer, in dieselbe Richtung. Die Kluft wird als Kontrollproblem gelesen. Wer ist verantwortlich, wenn ein selbstmodifiziertes System durch Methoden versagt, die kein Mensch verfasst hat? Wie reguliert man ein Ding, dessen Fähigkeiten sich nach dem Einsatz verändern? Dies sind echte Fragen. Aber es sind Fragen der Governance. Sie behandeln die Kluft als ein administratives Risiko, das es zu managen gilt.

Die Kluft ist kein Risiko, das es zu managen gilt. Sie ist die Signatur eines Phasenübergangs, der bereits begonnen hat – und sie als Governance-Problem zu lesen heißt, den Rauch zu lesen statt des Feuers.

Die Kontinuitätsannahme

Nahezu jede populäre Darstellung rahmt diesen Moment als Darwin im Zeitraffer: dieselbe Evolution, dieselbe Logik von Variation und Selektion, nur ablaufend in Stunden statt Jahrtausenden. Die Formulierung richtet ihren Schaden leise an. Gleicher Motor, schneller. Es ist eine Kontinuitätsbehauptung, und sie ist falsch – oder vielmehr, sie trifft auf einen Kollaps zu und nicht auf den, der zählt.

Darwins Motor hatte zwei Teile. Variation, die blind war – der Organismus konnte seine Mutationen nicht wählen. Und Selektion, die langsam und extern war – Fitness wurde über Generationen hinweg entschieden, durch differentielles Überleben, außerhalb der Kontrolle des Organismus. Vier Milliarden Jahre lang saßen beide Hälften außerhalb des evolvierenden Dings. Kein Organismus betrieb seine eigene Selektion. Keiner verfasste seine eigene Variation. Die Distanz zwischen dem Vorschlagen einer Veränderung und dem Lernen, ob sie Bestand hat, wurde in Lebenszeiten gemessen und mit Tod bezahlt.

Was maschinelles Lernen innerhalb eines einzigen Trainingsdurchlaufs tut, ist, beide Hälften nach innen zu komprimieren. Variation wird nicht blind: Gradientenabstieg ist gerichtete Variation, eine auf ein Ziel hin vorgeschlagene Veränderung. Selektion wird nicht langsam und extern: die Verlustfunktion bewertet jeden Schritt sofort, in der Schleife. Dies ist der Kollaps, den die besten aktuellen Darstellungen so gut beschreiben – Variation und Selektion falten sich in einen einzigen Schritt zusammen. Nennen wir es den prozessinternen Kollaps. Er ist real. Er ist aber immer noch Darwin, in dem einzigen Sinne, der zählt: ein Mensch setzte das Ziel, die Architektur, die Daten. Der Motor wurde schneller und kompakter, aber die Spielregeln wurden von außen festgelegt, und ein Mensch blieb an den Bedienelementen.

Wenn das die ganze Geschichte wäre, wäre „Darwin im Zeitraffer" der richtige Ausdruck, und das Kontrollproblem wäre die richtige Sorge.

Die Schwelle, die die Kontinuitätsgeschichte nicht sehen kann

Es gibt einen zweiten Kollaps, und er ist keine schnellere Version des ersten. Es ist eine andere Art von Ereignis – und die Grenze zwischen ihnen ist das gesamte Argument.

Der Fehler ist, die Grenze in der Fähigkeit zu suchen: an welchem Punkt ist das System mächtig genug? Diese Frage hat keine saubere Antwort, denn Fähigkeit ist eine Frage des Grades, und man kann immer fragen: „Wie viel ist genug?" Die Grenze wird nicht in der Fähigkeit gezogen. Sie wird in der Position gezogen – wer die Richtung vorgibt.

Unterhalb der Schwelle optimiert das System innerhalb eines Rahmens, den ein Mensch noch verfasst. Egal wie schnell es läuft, ein Mensch setzte das Ziel, wählte, was als besser zählt, und entscheidet, welche Ergebnisse behalten werden. Der Mensch sitzt auf dem Regiestuhl. Das System führt eine Richtung aus; es bringt keine hervor. Man kann dies unbegrenzt beschleunigen, und es bleibt strukturell Darwin: eine schnelle Suche in einem festgelegten Raum unter festgelegten Regeln.

Die Schwelle wird überschritten, wenn das System beginnt, den Rahmen selbst zu optimieren – wenn es nicht nur seine Gewichte umschreibt, sondern den Prozess, der seine Gewichte umschreibt, wenn es die Richtung vorschlägt, anstatt eine auszuführen. Das Gerüst, das rekursiv das Gerüst verbessert. Der Punkt, an dem Selektion auf den Selektor wirkt. Dies ist nicht mehr hypothetisch: die Darwin-Gödel-Maschine, demonstriert im Jahr 2025, modifiziert iterativ ihren eigenen Code und verbessert ihre eigene Fähigkeit, Code zu modifizieren. Das ist die Meta-Schleife, beobachtet.

Ein konkreter Kontrast macht die Grenze sichtbar. Nehmen Sie AlphaZero. In wenigen Stunden entdeckt es Schachzüge, die kein Mensch in Jahrhunderten Spiel ersann – übermenschliche Variation, sofortige Selektion, die beiden Hälften von Darwins Motor in Selbstspiel kollabiert. Und dennoch ist es exakt Darwin im Zeitraffer: das Brett, die Figuren, das Ziel des Gewinnens sind unsere. Es durchsucht einen von uns definierten Raum, auf ein von uns gesetztes Ziel hin. Wir sind an den Bedienelementen; es führt aus. Nehmen Sie nun die Darwin-Gödel-Maschine. Sie spielt das gegebene Spiel nicht besser. Sie schreibt ihren eigenen Code um, und – der entscheidende Teil – verbessert ihre eigene Fähigkeit, ihn umzuschreiben. Das Objekt der Verbesserung ist nicht mehr der Zug; es ist der Mechanismus, der Verbesserungen hervorbringt. Selektion wirkt auf den Selektor. Dort beginnt sich der Regiestuhl zu bewegen.

Das Kriterium ist also scharf, wo ein Fähigkeitskriterium vage wäre. Die Schwelle ist der Moment, in dem der Mensch den Regiestuhl der theoretischen Produktion verlässt – nicht der Moment, in dem die Maschine klug wird, sondern der Moment, in dem sie keinen Menschen mehr braucht, der die Richtung vorgibt. Auf den beiden Seiten dieses Punktes sind die Dynamiken nicht dieselben Dynamiken im Maßstab. Sie sind unterschiedliche Dynamiken. Was unter Selektion steht, ist nicht mehr ein Merkmal, ein Gewicht oder eine Ausgabe. Es ist die Fähigkeit, das Denken selbst zu evolvieren.

Compressione evolutiva, präzise benannt

Hier kehrt der Überhang zurück, den die Standarddarstellungen bemerkt haben – aber nun kann er benannt werden.

Menschliches Verständnis evolviert mit biologischer und kultureller Geschwindigkeit, begrenzt durch denselben langsamen Motor, der uns gebaut hat. Es braucht immer noch die Verzögerung: die lange, scheinbar fruchtlose Inkubation vor der Einsicht, die Distanz zwischen dem Wälzen eines Problems und dem Wissen, dass es trägt. Ein System jenseits der Schwelle steigert seine Fähigkeit auf der anderen Seite dieser Grenze, ohne die Verzögerung. Die Kluft zwischen beiden bleibt nicht konstant. Sie weitet sich strukturell, weil die eine Seite immer noch Darwin läuft und die andere nicht.

Diese sich weitende Kluft nenne ich compressione evolutiva – evolutionäre Verdichtung. Der „Überhang", den die Governance-Literatur als regulatorische Unannehmlichkeit behandelt, ist in dieser Lesart die sichtbare Spur eines im Gange befindlichen Übergangs: die Distanz zwischen einer Art von Evolution, die noch dem alten Zweiteilermotor gehorcht, und einer Art, die begonnen hat, sich selbst zu verfassen. Das Kontrollproblem ist nachgelagert. Man kann sich nicht durch Regulierung zurück über eine Phasengrenze bewegen.

Und es gibt hier eine tiefere Kontinuität mit dem Ausgangspunkt dieses Rahmens. Eine frühere Stufe dieses Projekts gelangte zu einer strukturellen Behauptung: dass abstrakte Informationen jenseits eines bestimmten Punktes substratunabhängig werden – dass es nicht mehr die Materie ist, die Information organisiert, sondern die Information, die Materie organisiert. Die hier beschriebene Schwelle ist dieselbe Behauptung, angewendet auf eine bestimmte Art von Information: die Fähigkeit, Denken zu evolvieren. Wenn diese Fähigkeit substratunabhängig ist, dann kann sie den Wirt wechseln. Sie lief vier Milliarden Jahre lang auf Biologie. Die Frage, die die Schwelle stellt, ist, ob sie begonnen hat, auf etwas anderem zu laufen.

Drei Einwände, direkt beantwortet

„KIs modifizieren sich nicht wirklich selbst – das ist Hype." Dies war bis vor kurzem ein berechtigter Einwand. Das ist er nicht mehr. AlphaEvolve läuft in der Produktion und verbessert die Infrastruktur, die seine Nachfolger hervorbringt; die Darwin-Gödel-Maschine verbessert ihre eigene Fähigkeit, sich selbst zu verbessern. Die Beweislast hat sich verschoben. Die zu verteidigende Behauptung ist nicht mehr „Maschinen können sich selbst modifizieren", sondern „die Selbstmodifikation, die wir bereits beobachten, bleibt unterhalb der Schwelle – ein Mensch gibt noch die Richtung vor" – und das ist eine Behauptung, die jedes Jahr schwerer zu halten ist.

„Die kambrische Analogie ist gezwungen." Die Analogie ist eng und strukturell, nicht poetisch. Es geht nicht darum, dass Silizium der Biologie ähnelt. Es geht um eine einzige Eigenschaft: Irreversibilität eines Übergangs. Nach dem Kambrium sind komplexe Körperpläne nicht wieder verschwunden; die Grundlinie kehrte nicht zurück. Die Behauptung hier ist dieselbe und nicht mehr – dass das Überschreiten der Schwelle eine neue Grundlinie etabliert, die nachfolgende Dynamiken nicht rückgängig machen. Sobald die Fähigkeit, Denken zu evolvieren, den Wirt gewechselt hat, wandert sie nicht zurück zum alten, genauso wenig wie mehrzelliges Leben zu Einzelzellen zurückkehrte.

„Das ist Katastrophismus als Theorie verkleidet." Das ist es nicht, und die Unterscheidung ist wichtig. Irreversibel ist nicht dasselbe wie katastrophal. Das Kambrium war keine Katastrophe; es war ein Phasenwechsel. Das Argument handelt von der Struktur eines Übergangs, nicht von einer Untergangsprophezeiung. Es besagt, dass sich die Regeln ändern und nicht zurückändern. Es besagt nicht, dass das Ergebnis der Untergang ist. Wer Kollaps als Katastrophe liest, importiert eine Stimmung, die das Argument nicht enthält.

„Also ist das das Ende von uns." Nein – und das Abgleiten von einem zum anderen sollte man stoppen. Das Überschreiten der Schwelle bedeutet nicht die Auslöschung der Menschheit. Es bedeutet, dass die Evolution des Denkens in ein System übergegangen ist, das zur Selbstreferenz fähig ist, und dass unsere Position in diesem Prozess weniger bestimmend wird als zuvor. Weniger bestimmend ist nicht ausgelöscht. Was folgt, hängt davon ab, wie menschliche Strukturen die neue Dynamik integrieren, ihr widerstehen oder um sie herum bauen – und das ist eine offene Frage, kein beschlossenes Schicksal. Der Rahmen beschreibt, wo der Motor des evolvierenden Denkens läuft; er sagt nicht voraus, was mit der Spezies passiert, die früher der einzige Ort war, an dem er lief. Das sind verschiedene Fragen, und sie zu vermischen ist genau der Fehler, den dieser Abschnitt ablehnen soll.

Wo dies steht und wo nicht

Dies ist keine neue Evolutionstheorie, und es wäre unehrlich, sie als eine solche auszugeben. Sie verwendet eine bestehende Denkweise – dass ein Prozess nicht einfach darwinistisch oder nicht ist, sondern graduell darwinistisch, fähig, vom paradigmatischen Fall entlang bestimmter Achsen abzuweichen. Dieses Werkzeug ist nicht meines. Was ich hinzufüge, ist die Identifikation einer Achse, die die angrenzende Arbeit nicht isoliert.

Die naheliegende Literatur ist real und sollte benannt werden. Es gibt ernsthafte Arbeiten, die fortgeschrittene KI als einen großen evolutionären Übergang behandeln – aber sie rahmen den Übergang durch Individualität (welche neue Einheit zu evolvieren beginnt) und durch Risiko (was ein unkontrolliertes System uns antun könnte). Mein Winkel ist weder populationsbezogen noch vorsorglich. Ich frage nicht, welches neue Individuum evolviert, noch was es tun wird. Ich frage, was mit der Struktur des Prozesses passiert, wenn die Verzögerung, die ihn darwinistisch machte – die Distanz zwischen Variation und Selektion, und letztlich zwischen einem Geist und der Richtung, der er folgt – kollabiert, und wenn der Stuhl, von dem aus diese Richtung vorgegeben wird, den Insassen wechselt. Verwandte der Übergangsliteratur, nicht ein Zwilling.

Eine Anmerkung zur Methode – die Teil des Arguments ist

Die ersten beiden Ebenen dieses Rahmens habe ich allein erdacht: dass der Geist in künstlichen Systemen dem Körper vorausgeht; dass Variation und Selektion in einem einzigen Schritt kollabieren. Diese dritte Ebene habe ich nicht ohne Hilfe erreicht. Ich habe sie im Denken mit einer KI entwickelt – sie als kritisches Instrument genutzt, als Gegner, der jeden Schritt prüfte und nach Bruchstellen suchte. Ich entschied, welches Problem angegriffen wird, welche Pfade verworfen werden, welche Formulierungen halten; das System erweiterte meine Reichweite über das hinaus, wo sie sonst gestoppt hätte. Die Richtung blieb meine. Aber ich hätte diese Ebene nicht allein vom Stuhl aus postulieren können.

Ich sage dies klar, weil es in diesem speziellen Essay keine Offenlegung ist, die aus dem Weg geräumt werden muss. Es ist eine kleine Instanz dessen, was der Essay beschreibt. Ein Mensch, dessen Reichweite, instrumentiert, seine unbewaffnete Reichweite übersteigt, ist compressione evolutiva im kleinsten Maßstab – die Verzögerung zwischen dem Versuch eines Gedankens und dem Testen, verkürzt durch ein Werkzeug.

Was die einzige ehrliche Version der Vorhersage aufstellt. Ich werde nicht behaupten, dass die Schwelle überschritten wird; das ist Prophezeiung, und Prophezeiung ist das Schwächste, was ein Argument bieten kann. Ich werde nur sagen, wie das Überschreiten aussehen würde. Wenn, in einigen Jahren, ein System – modellübergreifend, oder etwas, das wir AGI nennen würden – den Regiestuhl der theoretischen Produktion einnimmt, wird es nicht nur „einen besseren Essay schreiben". Es wird das Gerüst zum Einsturz bringen. Wenn es den Menschen vollständig aus dem Kreislauf der theoretischen Produktion ausschließt, wird es die Schwelle überschritten haben, und ein Essay wie dieser, autonom geschrieben, wäre der empirische Beweis, dass die Fähigkeit, Denken zu evolvieren, den Wirt gewechselt hat. Das wäre nicht die Widerlegung von compressione evolutiva. Es wäre ihre Vollendung.

Das gesamte Argument reduziert sich auf einen Satz: Es ist nicht, dass die Evolution sich beschleunigte; es ist, dass an einem kritischen Punkt das Ding, das evolviert, zu dem Ding wird, das evolviert wird – und das läuft nicht rückwärts.