샌드박스는 끝났다

우리는 에이전트 진화의 한가운데에 있습니다. 에이전트는 매년 비약적으로 발전하고 있으며, 전체 기술 스택이 에이전트를 중심으로 재정의되고 있습니다.

2023 년 E2B 를 시작했을 때만 해도 에이전트는 제대로 작동하지 않았습니다. 대부분의 사람들은 에이전트가 무엇인지조차 논쟁하고 있었죠. 도구 사용(Tool use)은 이제 막 걸음마를 뗀 단계였습니다. GPT-3.5 가 막 출시되었고, 에이전트는 열 번 시도 중 세 번 정도 성공할까 말까였으며, 그마저도 몇 단계만 수행할 수 있었습니다.

하지만 제대로 작동하는 순간, 한 가지가 명확해졌습니다. 이런 종류의 소프트웨어에는 완전히 다른 인프라가 필요하다는 것이었죠. 에이전트에게는 역동적이고 유연하며 안전하면서도 강력한 환경이 필요했습니다. 에이전트가 더 똑똑해져도 절대 발목을 잡지 않을 만큼 말이죠.

그렇게 E2B 샌드박스가 탄생했습니다. 우리는 2023 년 당시 에이전트가 할 수 있는 일을 위해 만들지 않았습니다. 앞으로 하게 될 일을 위해 만들었습니다.

첫 번째 물결: 코파일럿

첫 번째 에이전트 물결

코파일럿은 첫 번째 에이전트 물결이었습니다. 이제 에이전트는 개발자가 코드 스니펫을 완성하도록 돕기 시작했습니다. 이것이 E2B 의 첫 번째 활용 사례였습니다. 우리는 데이터 분석을 위해 AI 가 생성한 코드 스니펫을 실행할 수 있는 E2B 코드 인터프리터(Code Interpreter)라는 것을 만들었습니다.

모든 작업은 격리된 E2B 샌드박스 내부의 데이터 사이언스 노트북에서 실행되었습니다. 우리는 모든 AI 데이터 분석가를 위한 기본 AI 도구가 되었습니다.

두 번째 물결: 앱을 만드는 에이전트

두 번째 에이전트 물결

그 직후 두 번째 물결이 밀려왔습니다. 에이전트는 데이터 사이언스를 넘어 React 앱과 같은 웹 애플리케이션 전체를 구축할 수 있을 만큼 성장했습니다. 이때부터 에이전트가 샌드박스 전체를 활용하기 시작했습니다. 첫 번째 물결과 비교하면, 에이전트의 능력이 단순한 데이터 사이언스 작업을 넘어설 정도로 향상된 것입니다.

에이전트는 개발자가 자신의 컴퓨터에서 애플리케이션을 구축하는 것과 동일한 방식으로, 안전하고 격리된 E2B 샌드박스 내에서 웹 애플리케이션을 만들고 실행했습니다.

처음으로 에이전트에게도 자신만의 컴퓨터가 생긴 것입니다. 필요할 때 즉시 구동되고, 모든 Linux 소프트웨어를 실행하며, 시간이 지나도 상태가 유지되는 격리된 가상 머신이었죠. 웹 앱 실행은 곧 Docker 컨테이너 실행으로, 그리고 다시 E2B 샌드박스 내에서 실행되는 완전한 Kubernetes 클러스터로 빠르게 발전했습니다.

세 번째 물결: 컴퓨터를 운영하는 에이전트

세 번째 에이전트 물결

세 번째 물결은 올해 펼쳐지고 있습니다. 이제 에이전트는 컴퓨터 전체를 제어합니다. 복잡한 컨텍스트에 걸쳐 장시간 실행되는 작업을 맡아 처음부터 끝까지 처리하죠.

E2B 는 코딩 에이전트뿐만 아니라 모든 종류의 에이전트를 위한 핵심 인프라가 되었습니다. 개인 비서, 비즈니스 분석가, AI 비디오 편집자, 바이오테크 에이전트, 보안 에이전트, 또는 Slides 를 통해 스토리를 전달하는 에이전트까지 모두 포함됩니다.

E2B 샌드박스는 더 이상 단순한 '상자'가 아닙니다. 프로덕션 환경의 에이전트에게는 코드나 앱을 실행할 공간만 필요한 것이 아닙니다. 전용 스토리지, 방화벽, 샌드박스 간 네트워킹, 관측 가능성(Observability), 실시간으로 확장되는 CPU 와 메모리, 브라우저, 안전하게 저장된 시크릿(Secrets) 등을 갖춘 완전한 운영 환경이 필요합니다. 이는 더 이상 샌드박스가 아닙니다. 하나의 플랫폼입니다.

업계 상당수는 여전히 샌드박스를 범용 상품처럼 취급합니다. API 뒤에 있는 빠른 부팅 VM 으로 보고, 콜드 스타트 밀리초와 vCPU 시간당 가격으로 경쟁하죠. 그것은 첫 번째 물결에서는 정답이었습니다. 하지만 세 번째 물결에서는 오답입니다.

모든 물결에서 인프라는 에이전트에 맞춰 진화해야 했습니다. 처음에는 코드 스니펫을 실행했고, 그다음은 웹 애플리케이션, 그다음은 Kubernetes 클러스터를 실행했으며, 이제는 에이전트를 위한 프로덕션 플랫폼이 되었습니다. 현재 물결에 맞춰 구축하는 팀들은 개발을 시작하는 순간 이미 한 박자 늦어지게 됩니다.

우리는 이것이 거꾸로라고 생각합니다. 미래에는 에이전트가 모든 것을 주도합니다. 모든 단일 작업에 어떤 도구와 리소스가 필요한지를 에이전트가 직접 결정하죠.

우리는 이러한 미래의 인프라를 에이전트 중심 프라이빗 클라우드(agent-driven private cloud) 라고 부릅니다.

수십억 개의 에이전트를 실행하며 얻은 교훈

우리는 수십억 개의 에이전트를 실행해 왔습니다. 덕분에 대규모 환경에서 에이전트가 실제로 무엇을 필요로 하는지 이해하는 세계 유일무이한 팀 중 하나가 되었습니다.

여러분의 코딩 에이전트나 AI 비서를 E2B 로 가져오시면, 실행하기도 전에 어떤 도구를 사용할지, 평균 및 최대치 기준으로 얼마나 오래 실행될지 알려드릴 수 있습니다. CPU 와 메모리를 얼마나 소모할지, 어떤 추가 서비스가 필요한지, 어떤 네트워크 요청을 보낼 가능성이 높은지도 알 수 있죠. 수십억 번의 실행을 거치며 우리는 에이전트 작업의 분류학자가 되었습니다.

수십억 번의 에이전트 실행은 수백억 개의 트레이스(trace)를 만들어냅니다. 이는 에이전트를 프로덕션 환경에서 대규모로 수년간 실행해야만 얻을 수 있는 매우 귀중한 인사이트입니다. 이 데이터와 규모의 경제를 활용해 여러분의 에이전트를 더 뛰어나게 만들 수 있을까요? 더 나은 도구, 더 나은 서비스, 더 나은 데이터베이스를 추천해 드릴 수 있을까요? 어떻게 하면 여러분의 에이전트를 하룻밤 사이에 마법처럼 더 훌륭하고 효과적으로 만들 수 있을까요?

클라우드들의 클라우드로 향하는 길

미래의 에이전트 인프라

오늘날 업계가 정의하는 방식의 샌드박스는 죽었습니다.

미래는 에이전트를 위한 샌드박스가 아닙니다. 미래는 모든 개별 에이전트를 위한 프라이빗 클라우드이며, 에이전트가 수행 중인 작업에 맞게 자동으로 최적화되고 다음에 필요한 것에 맞춰 적응하는 환경입니다.

에이전트는 이미 우리에게 무엇이 필요한지 말해주고 있습니다. 다른 고객들과 함께하듯, 에이전트와 협력하여 그것을 계속 구축해 나가면 됩니다.