Песочницы мертвы

Мы находимся в самом разгаре агентной эволюции. Агенты становятся кардинально лучше с каждым годом, и целые технологические стеки перестраиваются вокруг них.

Когда мы запускали E2B в 2023 году, агенты едва работали. Большинство всё ещё спорили о том, что вообще считать агентом. Использование инструментов делало первые шаги. Только-только вышла GPT-3.5, и агент мог успешно справиться с задачей в трёх случаях из десяти — да и то лишь на несколько шагов.

Но когда это работало, становилось очевидно одно: такому софту нужна совершенно другая инфраструктура. Агентам требовалась среда динамичная, эластичная, безопасная и настолько мощная, чтобы никогда не тормозить их развитие по мере того, как они будут становиться умнее.

Так появился E2B Sandbox. Мы создавали его не для тех задач, которые агенты умели решать в 2023 году. Мы строили его под то, что они смогут делать дальше.

Первая волна: Копилоты

Первая агентная волна

Копилоты стали первой агентной волной. Теперь агенты помогали разработчикам дописывать фрагменты кода. Это были первые сценарии использования E2B. Мы создали то, что назвали E2B Code Interpreter — способ запускать сгенерированные ИИ фрагменты кода, в первую очередь для анализа данных.

Всё работало в data science-ноутбуке внутри изолированного песочницы E2B. Так мы стали стандартным ИИ-инструментом для любого ИИ-аналитика данных.

Вторая волна: агенты, которые создают приложения

Вторая агентная волна

Вскоре после этого пришла вторая волна. Агенты стали достаточно умелыми, чтобы выйти за рамки data science и создавать полноценные веб-приложения, например на React. Именно тогда они начали использовать песочницу целиком. По сравнению с первой волной возможности агентов выросли настолько, что им стало тесно в рамках одной только работы с данными.

Агенты собирали и запускали веб-приложения внутри защищённой, изолированной песочницы E2B — точно так же, как разработчик собирает приложение на своём компьютере.

Впервые у агентов появились собственные компьютеры: изолированные виртуальные машины, которые поднимаются по запросу, запускают любой Linux-софт и сохраняют состояние во времени. Запуск веб-приложений быстро превратился в запуск Docker-контейнеров, а затем — в работу с полноценными кластерами Kubernetes внутри E2B Sandboxes.

Третья волна: агенты, которые управляют компьютерами

Третья агентная волна

Третья волна разворачивается прямо сейчас, в этом году. Агенты теперь управляют целыми компьютерами. Они берут на себя долгие задачи в сложных контекстах и выполняют работу от начала до конца.

E2B стал базовой инфраструктурой для любых агентов, а не только для тех, кто пишет код. Сюда входят персональные ассистенты, бизнес-аналитики, ИИ-видеомонтажёры, агенты в биотехе, специалисты по безопасности и даже те, кто рассказывает истории через Slides.

Песочница E2B перестала быть просто «коробкой». Агенту в продакшене мало места, где можно запустить код или приложение. Ему нужна полноценная рабочая среда: собственное выделенное хранилище, файрвол, сеть между песочницами, наблюдаемость, процессор и память, которые масштабируются на лету, браузеры, безопасное хранение секретов и многое другое. Это уже не песочница. Это платформа.

Значительная часть индустрии до сих пор относится к песочницам как к расходнику: быстрозагружающаяся ВМ за API, где конкуренция идёт за миллисекунды холодного старта и цену за час vCPU. Для первой волны это был правильный ответ. Для третьей — нет.

На каждом этапе инфраструктуре приходилось расти вслед за агентом. Сначала она запускала фрагменты кода, потом веб-приложения, затем кластеры Kubernetes, а теперь стала продакшен-платформой для агентов. Команды, которые строят решения под текущую волну, уже отстают на одну волну к моменту старта разработки.

Мы считаем, что это подход наоборот. В будущем всем управляет агент. Он сам решает, какие инструменты и ресурсы нужны для каждой конкретной задачи.

Эту инфраструктуру будущего мы называем частным облаком, управляемым агентами.

Чему нас научили миллиарды запусков агентов

Мы запустили миллиарды агентов. Это делает нас одной из немногих команд в мире, которая понимает, что агентам реально нужно при масштабировании.

Принесите своего кодинг-агента или ИИ-ассистента в E2B, и мы, скорее всего, сможем сказать вам ещё до первого запуска, какие инструменты он будет использовать и сколько проработает — в среднем и на пике. Мы скажем, сколько CPU и памяти он потребит, какие сервисы ему понадобятся и какие сетевые запросы он, вероятно, сделает. Прогнав миллиарды запусков, мы стали таксономистами агентной работы.

Миллиарды запусков агентов генерируют десятки миллиардов трейсов. Это невероятно ценные инсайты, которые можно получить только годами гоняя агентов в продакшене и в больших масштабах. Можем ли мы использовать эти данные и эффект масштаба, чтобы сделать вашего агента лучше? Подсказать ему более подходящие инструменты? Лучшие сервисы? Более удачные базы данных? Как сделать так, чтобы ваш агент магическим образом стал лучше и эффективнее буквально за ночь?

На пути к облаку облаков

Инфраструктура будущего для агентов

Песочницы в том виде, в каком их сегодня определяет индустрия, мертвы.

Будущее — это не песочница для агентов. Будущее — это частное облако для каждого отдельного агента, которое автоматически оптимизируется под решаемую задачу и адаптируется к любым его следующим потребностям.

Агенты уже говорят нам, что им нужно. Нам остаётся лишь продолжать работать вместе с ними, чтобы это построить — точно так же, как мы работаем с любым другим клиентом.