Sandboxes sind tot

Wir befinden uns mitten in einer agentischen Evolution. Agents werden jedes Jahr dramatisch besser, und ganze Tech-Stacks werden rund um sie herum neu definiert.

Als wir 2023 mit E2B starteten, funktionierten Agents kaum. Die meisten Leute diskutierten noch darüber, was ein Agent überhaupt ist. Die Nutzung von Tools steckte in den allerersten Anfängen. GPT-3.5 war gerade erschienen, und ein Agent hatte vielleicht bei drei von zehn Versuchen Erfolg – und selbst dann nur für wenige Schritte.

Aber wenn es funktionierte, war eines offensichtlich: Diese Art von Software brauchte eine andere Art von Infrastruktur. Agents benötigten eine Umgebung, die dynamisch, elastisch, sicher und leistungsstark genug war, um sie niemals auszubremsen, während sie besser wurden.

So entstand die E2B Sandbox. Wir haben sie nicht für das gebaut, was Agents im Jahr 2023 konnten. Wir haben sie für das gebaut, was sie als Nächstes können würden.

Die erste Welle: Copilots

Erste agentische Welle

Copilots waren die erste agentische Welle. Agents halfen Entwicklern nun dabei, ihre Code-Snippets zu vervollständigen. Das waren die ersten Anwendungsfälle für E2B. Wir bauten etwas namens E2B Code Interpreter – eine Möglichkeit, KI-generierte Code-Snippets auszuführen, speziell für die Datenanalyse.

Alles lief in einem Data-Science-Notebook innerhalb einer isolierten E2B Sandbox. Wir wurden zum Standard-KI-Tool für jeden KI-Datenanalysten.

Die zweite Welle: Agents, die Apps bauen

Zweite agentische Welle

Kurz darauf traf die zweite Welle ein. Agents wurden leistungsfähig genug, um über Data Science hinauszugehen und komplette Webanwendungen zu erstellen, wie etwa React-Apps. Dies war der Moment, in dem Agents begannen, die gesamte Sandbox zu nutzen. Im Vergleich zur ersten Welle hatten sich die Fähigkeiten der Agents so weit verbessert, dass sie mehr als nur reine Data-Science-Arbeiten übernehmen konnten.

Agents bauten und betrieben Webanwendungen innerhalb einer sicheren, isolierten E2B Sandbox – genauso, wie ein Entwickler eine Anwendung auf seinem eigenen Computer erstellen würde.

Zum ersten Mal hatten Agents ihre eigenen Computer: isolierte virtuelle Maschinen, die on-demand hochfahren, jede Linux-Software ausführen und über die Zeit hinweg bestehen bleiben. Aus dem Ausführen von Web-Apps wurde schnell das Betreiben von Docker-Containern und schließlich ganzer Kubernetes-Cluster innerhalb von E2B Sandboxes.

Die dritte Welle: Agents, die Computer steuern

Dritte agentische Welle

Die dritte Welle spielt sich genau jetzt ab. Agents steuern mittlerweile ganze Computer. Sie übernehmen langlaufende Aufgaben über komplexe Kontexte hinweg und erledigen Arbeit vollständig von Anfang bis Ende.

E2B ist zur Kerninfrastruktur für jede Art von Agent geworden, nicht nur für Coding-Agents. Dazu gehören persönliche Assistenten, Business-Analysten, KI-Videoschnittprogramme, Biotech-Agents, Security-Agents oder Agents, die Geschichten durch Slides erzählen.

Die E2B Sandbox hörte auf, eine bloße Box zu sein. Ein Agent im Produktivbetrieb braucht nicht nur einen Ort, um Code oder eine App auszuführen. Er benötigt eine vollständige Betriebsumgebung: eigenen dedizierten Speicher, eine Firewall, Netzwerkverbindungen zwischen Sandboxes, Observability, CPU und Arbeitsspeicher, die sich in Echtzeit skalieren lassen, Browser, sicher gespeicherte Secrets und vieles mehr. Das ist keine Sandbox mehr. Das ist eine Plattform.

Große Teile der Branche behandeln Sandboxes immer noch als Commodity: eine schnell bootende VM hinter einer API, die über Millisekunden beim Cold Start und den Preis pro vCPU-Stunde konkurriert. Für die erste Welle war das die richtige Antwort. Für die dritte ist sie falsch.

In jeder Welle musste die Infrastruktur wachsen, um mit dem Agent Schritt zu halten. Zuerst führte sie Code-Snippets aus, dann Webanwendungen, dann Kubernetes-Cluster, und jetzt ist sie die Produktionsplattform für Agents. Teams, die für die aktuelle Welle entwickeln, sind bereits eine Welle im Rückstand, wenn sie mit dem Bauen beginnen.

Wir denken, das ist der falsche Ansatz. In Zukunft treibt der Agent alles an. Er entscheidet, welche Tools und Ressourcen er für jede einzelne Aufgabe benötigt.

Wir nennen diese zukünftige Infrastruktur eine agentengesteuerte Private Cloud.

Erkenntnisse aus Milliarden von Agent-Läufen

Wir haben Milliarden von Agents ausgeführt. Das macht uns zu einem der wenigen Teams weltweit, die verstehen, was Agents im großen Maßstab tatsächlich brauchen.

Bringen Sie Ihren Coding-Agent oder KI-Assistenten zu E2B, und wir können Ihnen sehr wahrscheinlich schon sagen, bevor Sie ihn überhaupt starten, welche Tools er verwenden wird und wie lange er im Durchschnitt und in Spitzenzeiten laufen wird. Wir können Ihnen sagen, wie viel CPU und Arbeitsspeicher er verbrauchen wird, welche anderen Dienste er benötigt und welche Netzwerkanfragen er voraussichtlich stellen wird. Über Milliarden von Ausführungen hinweg sind wir zu Taxonomen agentischer Arbeit geworden.

Milliarden von Agent-Läufen erzeugen zig Milliarden Traces. Das sind extrem wertvolle Erkenntnisse, die man sich nur verdienen kann, indem man Agents jahrelang im Produktivbetrieb und in großem Maßstab ausführt. Können wir diese Daten und Skaleneffekte nutzen, um Ihren Agent zu verbessern? Können wir Ihrem Agent bessere Tools empfehlen? Bessere Services? Bessere Datenbanken? Wie machen wir Ihren Agent fast über Nacht magisch besser und effektiver?

Auf dem Weg zur Cloud der Clouds

Zukünftige agentische Infrastruktur

Sandboxes, so wie die Branche sie heute definiert, sind tot.

Die Zukunft ist keine Sandbox für Agents. Die Zukunft ist eine Private Cloud für jeden einzelnen Agent – eine, die automatisch für die jeweilige Aufgabe optimiert ist und sich an alles anpasst, was der Agent als Nächstes braucht.

Agents sagen uns bereits, was sie benötigen. Wir müssen einfach weiterhin mit ihnen zusammenarbeiten, um es zu bauen – so wie wir es mit jedem anderen Kunden tun würden.