Die meisten Leute denken, das KI-Rennen dreht sich nur um Chips. Wer hat die schnellste GPU? Wer hat den besten KI-Beschleuniger? Wer hat das größte Rechenzentrum? Wer hat das intelligenteste Modell?
All das ist wichtig. Aber es gibt einen anderen Teil des KI-Rennens, der weniger glamourös und vielleicht genauso wichtig ist: Speicher.
Nicht Speicher im Sinne von "Ich habe vergessen, wo meine Schlüssel sind." Sondern Speicher als die physische Hardware, die die Daten, die KI-Systeme zum Denken brauchen, speichert, bewegt und liefert. KI rechnet nicht nur. KI erinnert sich, ruft ab, vergleicht, bewegt und verwendet enorme Mengen an Informationen mit unglaublicher Geschwindigkeit wieder. Das macht Speicher zu einem der wichtigsten Engpässe in der gesamten KI-Ökonomie.
Warum KI so einen großen Hunger nach Speicher hat
Stellen Sie sich vor, Sie bitten ein KI-Modell, ein Thema gründlich zu recherchieren. Um zu antworten, "denkt" das Modell nicht wie ein Mensch. Es führt eine riesige Anzahl mathematischer Operationen mit Milliarden oder sogar Billionen gespeicherter Werte durch. Diese Werte werden Gewichte genannt.
Die Gewichte sind die erlernte Struktur des Modells. Sie sind das, was das Modell nach dem Training "weiß". Wenn Sie eine Frage stellen, muss das KI-System immer wieder auf diese Gewichte zugreifen, um eine Antwort zu generieren. Je größer das Modell, desto mehr Gewichte hat es und desto mehr Speicher wird benötigt, um sie zu speichern und darauf zuzugreifen.
Aber das Speicherproblem hört hier nicht auf. Das Modell muss auch Ihre Anfrage im Auge behalten. Es muss sich an die Wörter erinnern, die es bereits generiert hat. Es muss vielleicht ein langes Dokument verarbeiten, Code analysieren, eine PDF-Datei zusammenfassen, mehrere Dateien vergleichen oder den Kontext über eine lange Konversation hinweg aufrechterhalten. All diese temporären Arbeitsinformationen müssen irgendwo leben.
Das KI-System benötigt Orte, um die Informationen zu speichern, die es gerade verwendet, während es eine Antwort generiert. Ein größeres Modell braucht mehr Speicher. Eine längere Unterhaltung braucht mehr Speicher. Mehr Benutzer zur gleichen Zeit brauchen mehr Speicher. Mehr Bilder, Videos, Dokumente und Echtzeitdaten brauchen mehr Speicher.
Deshalb ist KI nicht nur rechenhungrig. KI ist speicherhungrig.
Der Supersportwagen mit einer winzigen Kraftstoffleitung
Wenn Chip-Unternehmen über KI-Leistung sprechen, reden sie oft über Rechenleistung. Das bedeutet normalerweise, wie viele mathematische Operationen der Chip pro Sekunde ausführen kann. Aber es gibt einen Haken: Ein Chip kann nur mit Daten rechnen, auf die er zugreifen kann.
Wenn die Daten nicht schnell genug zu den Recheneinheiten gelangen, bleibt der Chip untätig. Das ist die schmerzhafte Realität der KI-Hardware. Die theoretische Rechenleistung mag auf einer Präsentationsfolie großartig aussehen, aber die reale Leistung hängt davon ab, ob das System Daten schnell genug bewegen kann.
Das ist die Speicherbandbreite. Bandbreite gibt an, wie viele Daten pro Sekunde zwischen Speicher und Prozessor bewegt werden können. Stellen Sie es sich wie die Breite einer Autobahn vor. Mehr Spuren bedeuten, dass mehr Autos gleichzeitig fahren können. Mehr Speicherbandbreite bedeutet, dass mehr Daten gleichzeitig den KI-Chip erreichen können.
Eine kleine Straße verursacht Stau. Ein schmales Rohr begrenzt den Wasserfluss. Eine winzige Kraftstoffleitung begrenzt den Supersportwagen. Niedrige Speicherbandbreite begrenzt KI. Deshalb kann ein KI-Chip theoretisch "schnell" sein, in der Praxis aber enttäuschen. Die Recheneinheiten sind vielleicht bereit, aber die Daten stecken im Stau.
Wie viel Speicher braucht KI eigentlich?
Ein typisches großes KI-Modell hat heute etwa 400 Milliarden "Gewichte" (das, was es während des Trainings gelernt hat). Im gebräuchlichsten Format gespeichert, belegt dieses Modell allein etwa 800 Gigabyte Speicher - ungefähr die Größe von 200 hochauflösenden Filmen.
Aber das Modell ist nicht das Einzige, das Platz braucht. Jedes Mal, wenn Sie damit chatten, muss das System auch Ihren Gesprächsverlauf, alle von Ihnen hochgeladenen Dokumente und eine wachsende Liste von "Notizen", die es während des Denkens macht (der sogenannte Key-Value-Cache), speichern. An einem arbeitsreichen Tag kann eine einzelne Unterhaltung leicht weitere 50–200 GB benötigen.
Multiplizieren Sie das jetzt mit Tausenden oder Millionen von Benutzern gleichzeitig. Plötzlich könnte ein einziges Rechenzentrum Zehntausende von Gigabyte benötigen - das sind Dutzende von Terabyte - nur damit die Unterhaltungen reibungslos laufen.
Deshalb ist die Branche so versessen auf HBM: Ein einzelner moderner KI-Chip kann mit 100–200+ GB dieses superschnellen Speichers gepaart werden. Die nächste Generation von Chips drängt bereits auf noch mehr. Ohne genug davon wartet der Chip nur herum, wie ein Ferrari mit leerem Tank.
HBM: Der Promi unter den Speichern
Der wichtigste Speicher in der heutigen High-End-KI ist HBM, oder High Bandwidth Memory. HBM ist vertikal gestapelter Speicher, wie ein winziger Wolkenkratzer. Anstatt Speicherchips flach auf einer Leiterplatte zu verteilen, stapelt HBM Speicherschichten übereinander und platziert sie sehr nahe an der GPU oder dem KI-Beschleuniger.
Das ist wichtig, weil Distanz der Feind ist. Das Bewegen von Daten über eine Platine kostet Zeit und Energie. Das Bewegen von Daten aus einem Speicher, der direkt neben dem Chip sitzt, ist viel schneller und effizienter. HBM gibt KI-Beschleunigern eine riesige, breite Verbindung zum Speicher. Statt einer schmalen Straße ist es, als würde man eine 32-spurige Autobahn direkt in die Fabrik bauen.
Deshalb ist HBM für NVIDIA, AMD, Google, Amazon, Meta, Microsoft, Broadcom und praktisch jedes ernsthafte KI-Chip-Projekt (einschließlich TERAFAB - dazu später mehr) von großer Bedeutung. Die GPU oder der Beschleuniger mögen die Schlagzeilen bekommen, aber das HBM hilft mitzubestimmen, wie viel nutzbringende Arbeit der Chip tatsächlich leisten kann.
HBM ist auch schwer herzustellen. Es erfordert fortgeschrittene Speicherfertigung, vertikales Stapeln, extreme Präzision, moderne Verpackungstechniken, Wärmemanagement und enge Koordination mit dem Prozessor. Deshalb sind Micron, SK hynix und Samsung so wichtig geworden. Sie verkaufen nicht mehr nur Massenspeicher für PCs. Sie liefern eine der Schlüsselkomponenten für den KI-Aufbau.
In der alten Welt wurden Speicherunternehmen oft wie zyklische Rohstoffgeschäfte behandelt. In der KI-Welt sehen High-End-Speicherunternehmen eher wie strategische Infrastrukturlieferanten aus.
DRAM: Das zuverlässige Arbeitstier
DRAM ("Dynamic Random Access Memory") ist der Hauptspeicher, der in Computern und Servern verwendet wird. Es ist der normale Arbeitsspeicher, den die meisten Menschen kennen, auch wenn sie nicht viel darüber nachdenken. Wenn Sie einen Laptop mit 16 GB, 32 GB oder 64 GB RAM kaufen, ist das normalerweise DRAM.
DRAM ist wichtig, weil es dicht, relativ erschwinglich und weit verbreitet ist. Es sitzt in Servern, PCs, Rechenzentren und vielen KI-Systemen. Es hilft CPUs, Daten zu verwalten, Arbeitslasten zu versorgen, Anwendungen zu unterstützen und das breitere System um die KI-Beschleuniger herum zu betreiben.
Aber DRAM hat Grenzen. Es ist nicht so schnell wie Cache auf dem Chip. Es hat nicht die extreme Bandbreite von HBM. Und weil es normalerweise weiter vom Haupt-KI-Prozessor entfernt sitzt, kann es den Chip nicht immer schnell genug für die anspruchsvollsten Arbeitslasten versorgen.
Stellen Sie sich DRAM als das große Lagerhaus hinter der Fabrik vor. Es lagert viel, und es ist unerlässlich, aber es ist nicht so schnell, wie das exakte Teil neben der Hand des Arbeiters zu haben. KI braucht beides. Sie braucht große Speicherpools und sie braucht unglaublich schnellen Speicher nahe der Recheneinheit.
SRAM und Cache: Der Speicher auf der Werkbank
SRAM ("Static Random-Access Memory") ist viel schneller als DRAM. Es wird innerhalb von Chips als Cache-Speicher verwendet. Cache ist wie der kleine Stapel Werkzeuge und Teile, der direkt auf der Werkbank liegt. Sie müssen nicht quer durch die Halle gehen, um sie zu holen. Sie sind bereits neben Ihnen.
Das macht Cache extrem wertvoll. Wenn ein KI-Chip wichtige Daten im On-Chip-Cache behalten kann, spart das Zeit und Energie. Der Chip muss nicht so oft auf HBM oder DRAM zugreifen. Das verbessert Leistung und Effizienz.
Aber es gibt ein Problem. SRAM nimmt viel Platz auf dem Chip ein. Es ist teuer in Bezug auf die Siliziumfläche. Sie können nicht einfach Hunderte von Gigabyte SRAM auf einen Chip packen. Der Chip wäre riesig und enorm teuer.
Also stehen Chip-Designer vor einem Zielkonflikt. Wie viel Fläche soll für die Recheneinheiten verwendet werden? Wie viel für den Cache? Wie viel für Verbindungen, Steuerlogik und andere Funktionen? Das ist einer der interessantesten Aspekte des KI-Chip-Designs. Architektur ist nicht nur Ingenieurskunst. Es ist Kapitalallokation im mikroskopischen Maßstab.
Jeder Quadratmillimeter Silizium hat einen Job.
GDDR: Der Speicher von Gaming-GPUs und lokaler KI
GDDR ("Graphics Double Data Rate") ist der Speicher, der in vielen Grafikkarten verwendet wird. Wenn Sie eine Gaming-GPU oder eine Workstation-GPU haben, ist die Wahrscheinlichkeit groß, dass sie GDDR verwendet. GDDR ist wichtig, weil es hohe Bandbreite zu geringeren Kosten als HBM bietet. Es ist nicht so leistungsstark oder effizient wie HBM für die extremsten KI-Workloads, aber es ist unglaublich nützlich.
Dies ist der Speicher, der es Menschen ermöglicht, KI-Modelle zu Hause auszuführen. Er unterstützt Gaming-GPUs, Creator-Workstations, kleine KI-Server, Hobby-Setups und lokale Modelexperimente. Jemand, der ein Bildgenerierungsmodell auf einer Verbraucher-NVIDIA-GPU ausführt, verlässt sich wahrscheinlich auf GDDR. Ein Entwickler, der ein kleineres Sprachmodell lokal testet, verwendet möglicherweise GDDR. Ein Startup, das KI-Anwendungen prototypisiert, bevor es zu teurer Cloud-Infrastruktur wechselt, verwendet möglicherweise GDDR.
Das ist wichtig, weil nicht jedes Modell in einem riesigen Hyperscale-Rechenzentrum laufen muss. Einige Modelle können lokal auf Workstations, Gaming-Rechnern und kleinen Servern laufen.
LPDDR: Der Speicher, der KI in die Hosentasche bringt
LPDDR ("Low-Power Double Data Rate") ist ein energiesparender Speicher, der in Smartphones, Tablets, Laptops und vielen mobilen Geräten verwendet wird. Dies ist der Speicher, der wichtig wird, wenn KI von der Cloud in Ihre Hand, Ihr Auto, Ihre Brille, Ihre Uhr oder Ihren Roboter wandert.
LPDDR ist darauf ausgelegt, weniger Strom zu verbrauchen. Das ist entscheidend, denn ein Telefon kann sich nicht wie ein Rechenzentrum verhalten. Es kann keine Megawatt Strom ziehen. Es kann sich nicht auf Flüssigkeitskühlung verlassen. Es kann nicht wie ein Düsentriebwerk klingen. Wenn KI lokal auf Geräten laufen soll, muss der Speicher schnell, kompakt, energieeffizient und erschwinglich sein.
Deshalb ist LPDDR für Edge-KI so wichtig. Ein Smartphone, das ein lokales Sprachmodell ausführt, benötigt genug Speicher, um das Modell zu speichern und Ihre Anfrage zu verarbeiten. Ein Laptop, der KI-Tools lokal ausführt, benötigt Speicher, der schnell genug für den Nutzen, aber effizient genug ist, um die Akkulaufzeit nicht zu ruinieren. Ein Auto, das autonome Fahrsoftware ausführt, benötigt Speicher, der Echtzeit-Sensordaten verarbeiten kann, während es sicher unter Hitze, Kälte, Vibration und rauen Bedingungen arbeitet.
Auch ein humanoider Roboter benötigt lokalen Speicher. Er muss Bildverarbeitung, Sprache, Bewegung, Gleichgewicht, Tastsinn und Umgebungskontext verarbeiten. Ein Teil dieser Intelligenz mag sich mit der Cloud verbinden, aber der Roboter kann nicht jedes Mal auf einen entfernten Server warten, wenn er einen Schritt machen oder vermeiden muss, eine Lampe umzuwerfen.
LPDDR bekommt vielleicht nicht die Aufmerksamkeit, die HBM erhält, aber es ist entscheidend, wenn KI lokal, persönlich, mobil und verkörpert werden soll.
NAND-Flash: Die KI-Bibliothek
NAND (eine Kombination aus "NOT-AND")-Flash ist der Speicher, der für die langfristige Datenspeicherung verwendet wird. Er ist in SSDs, Telefonen, Laptops, Rechenzentren, Kameras, Fahrzeugen und vielen eingebetteten Systemen zu finden. NAND behält Daten auch bei ausgeschalteter Stromversorgung.
NAND ist langsamer als DRAM oder HBM, aber für die Speicherung viel billiger und dichter. Es ist der Ort, an dem Daten leben, wenn sie nicht aktiv verarbeitet werden. In der KI speichert NAND Trainingsdaten, Modelldateien, Prüfpunkte (Checkpoints), Protokolle, Videos, Bilder, Dokumente, Einbettungen, Karten und Benutzerdaten.
Stellen Sie sich NAND als Bibliothek oder Lagerhaus vor. HBM ist die schnelle Montagelinie. SRAM-Cache ist das Werkzeug in Ihrer Hand. DRAM ist der aktive Arbeitsbereich.
Für autonome Fahrzeuge speichert NAND möglicherweise Karten, Fahrprotokolle, Wahrnehmungsdaten und Software-Updates. Für Roboter speichert es möglicherweise Betriebshistorie, lokale Modelle, Wartungsprotokolle und Umgebungsdaten. Für Rechenzentren speichert es enorme Datensätze und Modellprüfpunkte.
Wenn der Speicher zu langsam ist, können teure KI-Beschleuniger am Ende warten.
Das ist, als würde man ein Team von Chirurgen für Millionen von Dollar bezahlen und sie dann warten lassen, weil niemand die Instrumente in den Raum gebracht hat.
Selbst "langsamer" Speicher ist wichtig, wenn das gesamte KI-System davon abhängt, Daten durch eine riesige Pipeline zu leiten.
KI-Rechenzentren sind gigantische Speichermaschinen
Ein modernes KI-Rechenzentrum wird normalerweise als eine gigantische Rechenmaschine beschrieben. Das stimmt, ist aber unvollständig. Es ist auch eine gigantische Speichermaschine.
Das Rechenzentrum muss Daten vom Speicher zu den CPUs, von den CPUs zu den GPUs, von den GPUs zum HBM, von einer GPU zu einer anderen GPU, von einem Server zu einem anderen Server und oft von einem Cluster zu einem anderen Cluster bewegen. Jede Bewegung kostet Zeit, Energie und Geld.
Das wirkt sich auf alles aus: Serverarchitektur, Rack-Design, Vernetzung, Kühlung, Stromverbrauch und Gesamtbetriebskosten. Wenn das Speichersystem schlecht konzipiert ist, verschwendet das Rechenzentrum teure GPUs. Wenn die GPUs nicht schnell genug auf ausreichend Speicher zugreifen können, liefern sie eine schlechtere Leistung. Wenn der Speicher zu viel Strom verbraucht, steigen die Kühlkosten. Wenn die Speicherkapazität zu begrenzt ist, benötigt das System möglicherweise mehr Beschleuniger, um die gleiche Arbeitslast zu bewältigen.
Deshalb ist die KI-Infrastruktur so kapitalintensiv. Sie kaufen nicht nur Chips. Sie kaufen ein komplettes Industriesystem: GPUs, HBM, CPUs, DRAM, NAND, Vernetzung, Switches, Stromversorgung, Kühlung, Gehäuse, Software und Gebäude.
Gehäusetechnik: Der Teil, über den niemand spricht, bis er kaputtgeht
HBM ist nicht nur deshalb nützlich, weil es existiert. Es muss physisch mit dem KI-Beschleuniger verbunden werden. Hier kommt die moderne Gehäusetechnik (Advanced Packaging) ins Spiel.
Moderne KI-Chips sind nicht nur einzelne Siliziumstücke, die allein dasitzen. Es sind komplexe Baugruppen, die Logikchips, Speicherstapel, Zwischenstücke (Interposer), Substrate und Hochgeschwindigkeitsverbindungen zusammenbringen. Ein wichtiger Verpackungsansatz heißt 2.5D-Verpackung. Die Grundidee ist, dass die GPU oder der Beschleuniger und die HBM-Stapel nebeneinander auf einer speziellen Basisschicht sitzen, die eine extrem schnelle Kommunikation zwischen ihnen ermöglicht.
So kommt der Speicher nah genug heran und ist gut genug verbunden, um den Chip zu versorgen. TSMCs CoWoS-Verpackungstechnologie ist besonders wichtig geworden, weil sie hilft, fortschrittliche Prozessoren mit HBM zu verbinden. Diese Verpackungskapazität ist zu einem großen Engpass in der KI-Lieferkette geworden.
Das ist ein seltsamer, aber wichtiger Punkt. Sie können den besten KI-Chip der Welt entwerfen. Sie können die Logik herstellen. Sie können das HBM produzieren. Aber wenn Sie sie nicht in großem Maßstab zusammen verpacken können, können Sie das fertige Produkt nicht ausliefern.
Die Ökonomie des Speichers verändert sich
Jahrzehntelang wurde Speicher oft als ein zyklisches Rohstoffgeschäft betrachtet. Die Preise stiegen, Unternehmen erhöhten das Angebot, die Preise fielen, und der Zyklus wiederholte sich. KI hat diese Geschichte verändert.
HBM ist kein gewöhnlicher Massenspeicher. Er ist spezialisiert, knapp, schwer herzustellen und essentiell für die wertvollsten KI-Systeme der Welt. Das verleiht den Speicherherstellern eine größere strategische Bedeutung und eine viel stärkere Preissetzungsmacht.
Wenn NVIDIA, AMD oder ein Unternehmen für kundenspezifische KI-Chips nicht genug HBM bekommen, können sie nicht genug Beschleuniger ausliefern. Wenn Cloud-Anbieter nicht genug Beschleuniger bekommen, können sie nicht genug KI-Kapazität bereitstellen. Wenn die KI-Kapazität eingeschränkt ist, bleibt die Inferenz teurer und Anwendungen skalieren langsamer.
Speicher wird zu einem Begrenzer für das KI-Wachstum. Deshalb sind Unternehmen wie SK hynix, Samsung und Micron so wichtig. Sie reiten nicht nur auf der KI-Welle. Sie helfen mitzudefinieren, wie groß die Welle werden kann.
Agentische KI: Der Speicher-Multiplikator
Agentische KI könnte zu einem der größten Treiber der zukünftigen Speichernachfrage werden, weil sich Agenten nicht wie normale Chatbot-Sitzungen verhalten. Ein Chatbot beantwortet eine Frage und hört auf. Ein KI-Agent arbeitet weiter. Er erinnert sich an das Ziel, verfolgt die Konversation, ruft Werkzeuge auf, öffnet Dateien, überprüft Ergebnisse, verzweigt sich in Unteraufgaben, vergleicht Optionen und durchläuft oft mehrere Denkschleifen, bevor er eine Antwort erzeugt.
Das verändert die Speichergleichung.
Eine einfache KI-Abfrage könnte Speicher für das Modell, die Benutzeranfrage, das Kontextfenster und die Ausgabe erfordern. Ein agentischer Workflow benötigt viel mehr. Er könnte Speicher benötigen für die ursprüngliche Anweisung, vorherige Schritte, Zwischenergebnisse, Werkzeugausgaben, langlaufenden Kontext, parallele Unteragenten und dauerhaften Zustand. Einfach ausgedrückt: Ein Chatbot braucht Kurzzeitspeicher; ein Agent braucht Arbeitsspeicher, Projektspeicher und einen Schreibtisch voller geöffneter Dateien.
Deshalb könnte agentische KI eine sprunghafte Veränderung der DRAM-Nachfrage bewirken. Die Micron-Narrativkarte schätzt, dass jeder aktive Agent 5–10x mehr Speicher benötigen könnte als eine typische Chatbot-Interaktion, weil Agenten längere Kontexte, Werkzeugverläufe, Unteragentenverzweigungen und die Integration externen Wissens aufrechterhalten.
Der wichtige Punkt ist, dass agentische KI nicht nur die Anzahl der Abfragen erhöht. Sie erhöht die Speicherintensität pro Benutzer. Ein Mensch, der einen Chatbot verwendet, erzeugt vielleicht eine Anfrage und eine Antwort. Ein Mensch, der einen Agenten verwendet, könnte Dutzende oder Hunderte von Hintergrundoperationen auslösen: Suche dies, fasse das zusammen, überprüfe die Tabelle, führe ein Szenario durch, vergleiche die Ausgabe, überarbeite den Plan und überwache dann im Laufe der Zeit.
Das bedeutet, dass die Speichernachfrage sich auf mehreren Ebenen vervielfacht:
Mehr Benutzer × mehr Agenten pro Benutzer × mehr Aufgaben pro Agent × mehr Speicher pro Aufgabe × längere Persistenz.
Dies ist eine völlig andere Nachfragekurve als bei traditioneller Software. In der alten Software öffnete ein Benutzer eine App, tat etwas und schloss sie. Bei agentischer KI könnte die Software weiterarbeiten, nachdem der Benutzer gegangen ist. Sie könnte Posteingänge, Kalender, Codebasen, Finanzmodelle, Rechtsdokumente, Kundendiensttickets oder Fabriksysteme überwachen. Jeder persistente Agent wird zu einem kleinen, kontinuierlichen Verbraucher von Rechenleistung und Speicher.
Das ist für Micron wichtig, weil Speicher zu einer der begrenzenden Ressourcen der agentischen KI wird. Die Ära der KI-Agenten erfordert nicht nur GPUs, sondern auch schnellen Speicher um diese GPUs herum, High-End-Server-DRAM, größere Speicherpools und schließlich Technologien wie CXL, um die Speicherkapazität über traditionelle Grenzen hinaus zu erweitern. Der hochgeladene Micron-Bericht identifiziert KI-Agenten speziell als einen Nachfragetreiber der nächsten Stufe, weil Agenten langlaufende Kontexte aufrechterhalten und externe Werkzeuge aufrufen, wodurch die Speichernachfrage pro aktivem Benutzer im Vergleich zu traditionellen Chatbot-Interaktionen vervielfacht wird.
Die einfachste Analogie ist diese: ChatGPT ist, als würde man einem intelligenten Mitarbeiter eine Frage stellen. Agentische KI ist, als würde man diesen Mitarbeiter einstellen, um den ganzen Tag an einem Projekt zu arbeiten. Ersteres erfordert einen kurzen Aufmerksamkeitsschub. Letzteres erfordert Gedächtnis, Dateien, Kontext, Werkzeuge und Kontinuität.
Deshalb könnte agentische KI für Micron so wichtig sein. Sie verwandelt Speicher von einer Hintergrundkomponente in eine zentrale Skalierungsbeschränkung. Wenn KI-Agenten zur neuen Schnittstelle für Unternehmenssoftware, Kundendienst, Programmierung, Forschung, Finanzen, Gesundheitswesen, Logistik und persönliche Produktivität werden, dann könnte die Speichernachfrage nicht linear wachsen. Sie könnte sprunghaft wachsen.
In dieser Welt lautet die Kernfrage nicht mehr einfach: "Wie viele GPUs werden gebaut?"
Die bessere Frage wird sein:
Wie viele persistente KI-Arbeiter wird die Welt betreiben - und wie viel Speicher wird jeder einzelne benötigen, um zu denken, sich zu erinnern, zu schlussfolgern und zu handeln?
Edge-KI und Robotik: Speicher verlässt das Rechenzentrum
Die nächste Stufe der KI sind nicht nur größere Modelle in größeren Rechenzentren. KI zieht auch in die physische Welt: Telefone, Laptops, Autos, Roboter, Drohnen, medizinische Geräte, Industriemaschinen, Überwachungskameras, Smart Glasses und Heimgeräte.
Alle diese Systeme benötigen Speicher, aber sie brauchen eine andere Art von Speicherbilanz. Ein Rechenzentrum kann riesige Mengen Strom und fortschrittliche Kühlung verbrauchen. Ein Roboter kann das nicht. Ein Telefon kann das nicht. Eine Drohne kann das definitiv nicht.
Edge-KI benötigt Speicher, der schnell, energieeffizient, kompakt, zuverlässig und erschwinglich ist. Betrachten Sie einen humanoiden Roboter, der in einer Fabrik arbeitet. Er hat Kameras, Sensoren, Motoren, Gleichgewichtssysteme, Sprachschnittstellen und Aufgabenplanungssoftware. Er muss seine Umgebung verstehen, sich merken, was er tut, auf Menschen reagieren, Hindernissen ausweichen und seinen Körper in Echtzeit steuern.
Das erfordert Speicher. Nicht nur Speicherplatz. Nicht nur eine Datenbank. Echten Arbeitsspeicher.
Oder betrachten Sie ein autonomes Fahrzeug. Es hat vielleicht acht Kameras, Radar, Ultraschallsensoren, Karten, Planungssoftware und ständig laufende neuronale Netze. Es muss die Welt in Echtzeit verarbeiten. Es kann nicht sagen: "Moment mal, der Speicherbus ist überlastet."
Physische KI macht Speicher zu einem Sicherheitsthema. Wenn KI von Chatbots zu Autos und Robotern wechselt, spielen Latenz, Strom, Wärme, Zuverlässigkeit und lokaler Speicher eine Rolle. Lokaler Speicher ist wichtig.
Deshalb ist Speicher zentral für Tesla, Robotik, autonomes Fahren, Smartphones, Laptops, medizinische Geräte und industrielle Automatisierung. Die Intelligenz des Roboters ist nur dann nützlich, wenn er zur richtigen Zeit auf die richtigen Informationen zugreifen kann.
Zukünftige Speicher: Vielversprechende neue Technologien
Es gibt mehrere zukünftige Speichertechnologien, die wichtig werden könnten. MRAM speichert Daten mithilfe magnetischer Zustände. Es ist nichtflüchtig, langlebig und potenziell nützlich in eingebetteten Systemen, Automobilchips, Industriekomponenten und Edge-KI. ReRAM speichert Daten durch Veränderungen des elektrischen Widerstands. Es könnte für energiearme Geräte und möglicherweise Compute-in-Memory-Systeme nützlich sein.
Phasenwechselspeicher (Phase-change Memory) speichert Daten, indem Materialien zwischen verschiedenen physikalischen Zuständen wechseln. Es wurde als Brücke zwischen DRAM und Speicher untersucht. Ferroelektrischer Speicher (Ferroelectric Memory) verwendet Materialien, die eine elektrische Polarisation beibehalten. Er könnte in zukünftigen energiearmen eingebetteten Systemen eine Rolle spielen. Optischer Speicher ist interessant, weil Licht Daten in manchen Kontexten sehr schnell und effizient bewegen kann, aber er bleibt schwer breitflächig zu vermarkten.
3D-DRAM könnte helfen, die Speicherdichte zu erhöhen, indem es nach oben baut, so wie NAND-Flash vor Jahren zu 3D-Strukturen überging. Processing-in-Memory und Compute-in-Memory sind besonders interessant, weil sie das Kernproblem direkt angehen. Anstatt Daten zwischen Speicher und Recheneinheit hin und her zu bewegen, versuchen sie, einige Operationen näher an dem Ort durchzuführen, an dem die Daten bereits leben.
Das klingt naheliegend. Warum alle Lebensmittel durch die Stadt tragen, wenn man das Abendessen dort kochen kann, wo die Lebensmittel bereits sind?
Aber die Umsetzung ist schwierig. Die Herstellung von Speicher und Logik ist unterschiedlich.
Während zukünftige Speichertechnologien vielversprechend sind, wird das KI-Speicherproblem wahrscheinlich durch viele Verbesserungen im gesamten System gelöst werden, nicht durch eine einzige Wundertechnologie.
KI im Weltraum: Die nächste Speichergrenze
Weltraumgestützte KI klingt futuristisch, aber die Logik ist einfach. KI braucht Energie, Rechenleistung, Kühlung, Kommunikation und Speicher. Der Weltraum könnte in mehreren dieser Bereiche irgendwann Vorteile bieten. Solarenergie ist im Orbit reichlich und ununterbrochen verfügbar. Wärme kann ins Weltall abgestrahlt werden. Satelliten können sich direkt mit globalen Kommunikationsnetzwerken verbinden. Und SpaceX senkt rapide die Kosten, um Satelliten in die Umlaufbahn zu bringen.
Speicher könnte noch wichtiger werden. Ein weltraumgestütztes KI-System wäre nicht einfach ein dummer Satellit, der Signale weiterleitet. Es könnte Daten lokal verarbeiten, Inferenz durchführen, Kommunikation koordinieren, Erdbeobachtungsdaten analysieren, autonome Robotik unterstützen, orbitalen Verkehr verwalten und als Teil einer globalen KI-Rechenebene dienen. Das erfordert Hochleistungsspeicher in der Nähe des Prozessors.
Für Speicherunternehmen könnte dies eine neue Nachfrageschicht schaffen. Orbitale KI-Systeme würden strahlungsgehärteten Speicher, energiesparenden Speicher, High-Bandwidth-Speicher, nichtflüchtigen Speicher und möglicherweise spezielle Speicherarchitekturen benötigen, die für raue Umgebungen ausgelegt sind. Die Einschränkungen unterscheiden sich von terrestrischen Rechenzentren. Gewicht, Leistung, thermisches Design, Zuverlässigkeit und Strahlungsbeständigkeit sind alle wichtig.
Ein letzter Gedanke... TERAFAB
Elon beschrieb das Projekt als die Zusammenführung von Logik, Speicher, Verpackung, Test und verwandten Halbleiterprozessen unter einem Dach.
Terafab könnte letztendlich zu einer langfristigen Wettbewerbsbedrohung für externe Speicherlieferanten werden, wenn Elon einen Teil der HBM- oder fortschrittlichen Speicherproduktion internalisieren kann.
Elon baut Terafab nicht, weil Speicher unwichtig ist. Er baut Terafab, weil Speicher einer der limitierenden Faktoren für KI, Robotik, autonome Fahrzeuge und weltraumgestützte Rechenzentren sein könnte.
