Dies ist ein entscheidender Moment in der Menschheitsgeschichte. Künstliche Allgemeine Intelligenz (AGI), ein System, das alle kognitiven Fähigkeiten des Gehirns aufweist, ist wahrscheinlich nur noch wenige Jahre entfernt. Wenn wir in den kommenden Jahrzehnten auf diese Zeit zurückblicken, werden wir, glaube ich, erkennen, dass wir in den Ausläufern der Singularität standen – nichts Geringeres als der Anbruch eines neuen Zeitalters für die Menschheit.
Ich habe mein ganzes Leben an AGI gearbeitet, weil ich stets die tiefe Überzeugung hatte, dass sie sich, wenn sie verantwortungsvoll entwickelt und eingesetzt wird, als eine der wohltuendsten und transformativsten Technologien erweisen würde, die je erfunden wurden. AGI lässt sich nicht mit gewöhnlichen technologischen Durchbrüchen vergleichen, nicht einmal mit so folgenreichen wie dem Internet oder dem Mobilfunk – sie ist viel eher mit der Entdeckung der Elektrizität oder des Feuers vergleichbar. Wenn man innehält und darüber nachdenkt, haben wir im Grunde einen Weg gefunden, Sand zum Denken zu bringen. Es ist ein Wunder.
Das Ausmaß der Auswirkungen dieser Technologie wird beispiellos sein, vielleicht das Zehnfache der Industriellen Revolution bei zehnfacher Geschwindigkeit. Sie wird uns helfen, einige der größten Probleme der Gesellschaft zu lösen, von der Beschleunigung der Arzneimittelforschung über die Entwicklung neuer sauberer Energiequellen bis hin zur Schaffung neuartiger fortschrittlicher Materialien. Wir könnten sogar einen Punkt erreichen, an dem Ressourcen nicht länger der limitierende Faktor für den menschlichen Fortschritt sind, was zu einer erstaunlichen neuen Ära des Überflusses führt.
Die Herausforderungen der Frontier
KI beginnt bereits, praktische Vorteile zu liefern, aber um ihr enormes Potenzial auszuschöpfen, müssen wir diese kritische Entwicklungsphase bedacht und sorgfältig steuern. Dringender Handlungsbedarf besteht, um Risiken zu begegnen, die entstehen könnten, wenn wir uns AGI nähern. Wir haben bereits die Herausforderungen gesehen, die Frontier-Modelle für die Cybersicherheit darstellen, und andere Bedrohungen, darunter nukleare und biologische Risiken, könnten bald auftauchen, wenn die Fähigkeiten weiter voranschreiten. Am Horizont werden wir robuste Sicherheitsvorkehrungen benötigen, um die Kontrolle über zunehmend agentische, rekursiv selbstverbessernde Systeme zu behalten – und um unbekannte Probleme anzugehen, die erst mit der Zeit klarer werden.
Ich habe immer an die Kraft des menschlichen Einfallsreichtums und der Kreativität geglaubt, jedes Problem zu lösen. Ich bin zuversichtlich, dass die Minderung der technischen Risiken im Zusammenhang mit KI eine Herausforderung ist, die wir gemeinsam bewältigen können, aber nur, wenn wir uns die Zeit und den Raum geben, diesen nächsten entscheidenden Schritt richtig hinzubekommen. Derzeit tun wir das nicht, weder als Fachbereich noch als breitere Gesellschaft.
Im Moment befinden wir uns in einem extrem intensiven, vielschichtigen kommerziellen und geopolitischen Wettrennen. Während diese Wettbewerbsdynamik schnellen Fortschritt vorantreibt und die unglaublichen Vorteile beschleunigt, überholen die Fortschritte an der Frontier unser Verständnis der Technologie. Niemand auf der Welt weiß genau, was von hier an passieren wird, und selbst die Experten sind uneinig. Wenn ein hohes Maß an Unsicherheit herrscht und die Einsätze so hoch sind, ist vorsichtiger Optimismus die vernünftige und richtige Strategie. Das erfordert eine öffentliche Politik, die Innovation fördert und gleichzeitig Verantwortung und Sicherheit anreizt, internationale Zusammenarbeit in wichtigen Sicherheitsfragen fördert und zu sorgfältiger Überlegung anregt, wie KI zum Wohle der Gesellschaft eingesetzt wird.
Ein Rahmen für ein Frontier-KI-Standardisierungsgremium
Der rasche Fortschritt, den wir bei KI sehen, erfordert einen neuen Ansatz zum Testen der Fähigkeiten von Frontier-KI-Modellen, der dynamisch, anpassungsfähig und streng ist. Die USA sind aufgrund ihrer wirtschaftlichen und technischen Stellung gut positioniert, um den ersten Schritt zur Entwicklung eines solchen Rahmens zu machen. Sie könnten ein neues Standardisierungsgremium einrichten, das einer bundesstaatlich beaufsichtigten öffentlich-privaten Partnerschaft oder Selbstregulierungsorganisation nachempfunden ist, ähnlich der Financial Industry Regulatory Authority (FINRA), mit einem Vorstand, der unabhängige führende technische Experten und Open-Source-Vertreter umfasst. Die Finanzierung müsste erheblich sein und wahrscheinlich größtenteils aus der Industrie kommen, um Weltklasse-Talente anzuziehen und die notwendigen Rechenressourcen für groß angelegte Tests bereitzustellen.
Das Standardisierungsgremium wäre für die Entwicklung von Bewertungsprotokollen und die Zusammenarbeit mit den zuständigen Bundesbehörden und den US-amerikanischen National Labs verantwortlich, um Tests in Bereichen durchzuführen, die für die nationale Sicherheit relevant sind. Ein Modell würde als 'Frontier-Klasse' eingestuft, wenn es bestimmte Schwellenwerte bei einer Reihe von Benchmarks erfüllt, die vom Standardisierungsgremium festgelegt und regelmäßig aktualisiert werden, um mit den sich entwickelnden KI-Fähigkeiten Schritt zu halten. Organisationen mit 'Frontier-Modellen' im Sinne dieser Benchmarks würden als 'Frontier Labs' bezeichnet und dazu ermutigt, bewährte Verfahren zu übernehmen, wie die Veröffentlichung von Modellkarten mit technischen Details, Aufrechterhaltung einer starken internen Cybersicherheit, Überprüfung von Schlüsselpersonal und Bereitstellung ausreichender Ressourcen für Sicherheitsforschung und mehr.
Anfangs würden Frontier Labs dem Standardisierungsgremium freiwillig Modelle bis zu 30 Tage vor der Veröffentlichung zur Überprüfung vorlegen. Sobald sich das Bewertungsprotokoll als wirksam und robust erwiesen hat, könnte schnell eine Formalisierung folgen, was bedeutet, dass Frontier-Modelle es bestehen müssten, um auf dem US-Markt eingesetzt zu werden. Die Labs würden auch mit dem Standardisierungsgremium zusammenarbeiten, um kritische Sicherheitslücken nach der Veröffentlichung zu beheben.
Modellbewertungen sollten strenge wissenschaftliche Evaluierungen der Fähigkeiten in den Bereichen Cybersicherheit, biologische Bedrohungen und andere risikoreiche Bereiche umfassen. Spezifische Tests für agentische KI könnten nach Versuchen suchen, Sicherheitsvorkehrungen zu umgehen oder Anzeichen von Täuschung, und bewährte Verfahren sicherstellen, wie die digitale Wasserzeichen von KI-generierten Bildern und die Erzeugung von für Menschen lesbaren Ausgabetokens, um die Schlussfolgerungen des Modells zu verstehen.
Diese Evaluierungen würden regelmäßig aktualisiert, vielleicht zunächst vierteljährlich, wobei veraltete oder gesättigte Benchmarks abgekündigt und ersetzt werden. Anfangs würden sie in Absprache mit den Frontier Labs entwickelt, aber schließlich sollte das Standardisierungsgremium die technische Kapazität aufbauen, um eigene, von den Labs unabhängige Tests zu erstellen, um Overfitting zu vermeiden. In Zusammenarbeit mit der US-Regierung könnte es ein Ökosystem von Drittanbietern fördern, die bei den Bewertungen und der Entwicklung neuer Benchmarks und Evaluierungen helfen.
Die Stärke dieses Ansatzes liegt darin, dass er technisch fokussiert wäre, gleichzeitig Innovation unterstützt und verantwortungsvolles Verhalten fördert. Er ist darauf ausgelegt, mit der Beschleunigung des Feldes Schritt zu halten und sich an die größten Risiken anzupassen, sobald sie identifiziert werden, und könnte verschärft werden, wenn die Ernsthaftigkeit der Situation es erfordert, einschließlich der Koordination einer Verlangsamung der Entwicklung unter den Frontier Labs, falls dies für notwendig erachtet wird. Die Bezeichnung als Frontier Lab würde mit bedeutendem Prestige verbunden sein und stünde jeder Organisation offen, die Modelle entwickelt, die die Benchmark-Kriterien erfüllen. Der Rahmen könnte auf Modelle der Frontier-Klasse angewendet werden, unabhängig von ihrem Herkunftsland oder ob sie offen oder geschlossen sind, aber alle Nicht-Frontier-Modelle, etwa von Startups oder der Wissenschaft, wären von diesem Prozess ausgenommen.
Diese von den USA initiierte Anstrengung wäre ein starker Ausgangspunkt für die Schaffung gemeinsamer internationaler Standards für Frontier-KI. Da diese Technologie den gesamten Planeten betreffen wird, würde dieser Rahmen idealerweise die internationale Gemeinschaft dazu anregen, einen Konsens darüber zu erzielen, wie die schwerwiegendsten Risiken gemanagt werden können, während gleichzeitig sichergestellt wird, dass jeder Zugang zu den Chancen hat, die KI bietet, und davon profitieren kann.
Die Zukunft ist noch nicht geschrieben
AGI hat das Potenzial, das ultimative Werkzeug zur Förderung von Wissenschaft und Medizin zu sein und enorme Produktivitätssteigerungen und Wirtschaftswachstum anzutreiben. Aber um dies zu erreichen, müssen wir die technischen Grundlagen richtigstellen, indem wir uns auf einen gemeinsamen globalen Rahmen koordinieren, die strengsten wissenschaftlichen Methoden anwenden und die besten Köpfe zusammenbringen, um an den Herausforderungen zu arbeiten, vor denen wir stehen.
Selbst wenn wir diese schwierigen technischen Herausforderungen lösen, werden weitere komplexe wirtschaftliche und philosophische Fragen zu bewältigen sein: Welche neuen Wirtschaftsmodelle werden nötig sein, um allen zu helfen, in einer Welt nach der Knappheit zu gedeihen? Nach welchen Werten wollen wir leben, was werden Sinn und Zweck sein, und wie könnte sich sogar der menschliche Zustand selbst verändern? Die Lösung dieser Fragen kann und sollte offensichtlich nicht allein den Technologen überlassen werden. Es erfordert, dass alle Teile der Gesellschaft zusammenkommen, um dieses neue Kapitel mitzugestalten.
Es gibt sowohl große Aufregung als auch Unsicherheit im Zusammenhang mit KI, und beides ist berechtigt. Aber die Zukunft ist noch nicht geschrieben; wir müssen dieses kostbare Fenster nutzen, bevor AGI kommt, um diese Technologie zum Wohle der gesamten Menschheit zu gestalten. Was wir jetzt gemeinsam tun, wird bestimmen, wie sich die nächste Phase der Zivilisation entfaltet. Indem wir AGI sicher in die Welt einführen, können wir ein neues goldenes Zeitalter wissenschaftlicher Entdeckungen und Fortschritte betreten und eine glänzende Zukunft unglaublichen menschlichen Gedeihens einläuten.
