Forward Deployed Engineering 101

이 글을 다 읽으면 Anthropic, OpenAI, Google 등 AI 기업들이 왜 FDE(Forward Deployed Engineer)를 찾고 있는지, 그리고 여러분이 어떻게 이 수요를 활용할 수 있을지 이해하게 될 것입니다.

저는 이 역할을 직접 해봤고, Varick에서 최고의 인재들을 고용해 FDE 조직을 구축했습니다. 그리고 현재 테크 업계에서 가장 핫한 이 역할에 대한 확실한 가이드가 없다는 점을 깨달았습니다. 이 글이 바로 그 가이드입니다.

AI 기업들이 FDE를 필요로 하는 이유

FDE가 되기 위한 첫 번째 단계는 왜 AI 기업들이 FDE를 절실히 필요로 하는지 내면화하는 것입니다.

지능이 상품화되고 있다고 생각한다면, 유일한 경쟁 우위는 지능을 어떻게 그리고 어디에 사용하느냐에 달려 있다는 결론이 나옵니다. 사실 저는 지능만으로는 경쟁 우위가 전혀 없다고 단언하겠습니다. 따라서 기업이 AI를 어떻게, 어디에 활용할지 결정하는 것이 가장 중요한 역할이 되며, 그것이 바로 FDE(Forward Deployed Engineer)의 역할입니다.

기업들은 FDE를 배치해서 기술을 최대한 활용할 수 있도록 돕는 Applied AI 기업(예: Varick)을 고용합니다. 이렇게 하면 대규모 AI 전환을 이미 경험한 팀의 지원을 받아 경쟁사보다 훨씬 빠르게 움직일 수 있고, 그 결과 막대한 효율성 향상을 얻을 수 있습니다.

FDE는 고객의 문제를 매우 깊이 이해하고, 한 번도 본 적 없는 코드 베이스에 코드를 작성하며, 비기술적인 의사 결정권자에게 비즈니스 영향을 설명해 계약을 성사시킬 수 있는 고도로 숙련된 엔지니어입니다. 이는 수백만 달러짜리 인재입니다.

이 역할에 필요한 것

FDE가 되려면 고객 현장에 상주해야 합니다. Palantir의 CTO는 환경 안에 실제로 있지 않고서는 그 환경을 위한 제품을 만들 수 없다고 말합니다. 내부적으로도 같은 경험을 했습니다.

FDE라는 용어는 실제로 Palantir에서 시작되었으며, 그들은 현장 상주를 매우 중요하게 여겼습니다. 2010년에 그들은 아프가니스탄의 특수부대와 함께 일했습니다. 특수부대는 낮에 임무를 수행하고 피드백을 받아 FDE에게 전달하면, FDE는 밤새 코드를 배포했습니다.

환경 안에 있는 것은 군사 소프트웨어를 배포할 때나 AI를 배포할 때나 마찬가지로 필수적입니다. 진정한 효율성 향상을 보려면 기업이 AI를 중심으로 완전히 재구축되어야 합니다. 그리고 그것은 고객과 함께 앉아서 회사별 데이터와 회사별 맥락에 맞춰 설계된 맞춤형 에이전트를 구축해야만 가능합니다.

역할에 대해

저희가 보기에 Applied AI FDE의 업무는 크게 세 부분으로 나뉩니다: 감사(Audit), 평가(Evals), 배포(Deployment). 각각을 자세히 살펴보겠습니다.

감사(Audit): 고객사 현장에서 회사 내 여러 팀의 프로세스/워크플로우를 매핑합니다. 예: 영업 운영팀과 2주, 조달팀과 1주, 재무팀과 한 달.

각 팀과 함께하면서 그들의 업무 내용, 병목 지점, 가치를 창출할 수 있는 에이전트를 어디에 만들지 파악합니다.

회사의 각 팀 워크플로우를 이해하는 것과 함께, 감사 단계에서 중요한 것은 무엇을 자동화하고 무엇을 자동화하지 말아야 하는지 결정하는 것입니다. 에이전트가 해결하는 문제보다 더 많은 문제를 만들 수 있는 지점이 있습니다.

결정에 도움이 되는 세 가지 일반 원칙은 다음과 같습니다.

워크플로우를 규칙으로 만들 수 있지만 입력값이 다양하고(하나는 이메일, 다음은 PDF, 그다음은 스캔 이미지), 작업에 도구 호출이 포함된다면 에이전트를 투입하세요. 규칙과 입력값이 모두 예측 가능하다면 코드가 더 빠르고 저렴합니다. 결정에 패턴 인식과 도메인 전문 지식이 필요하다면 수동으로 남겨두세요.

에이전트가 월 5번만 실행된다면 좋은 ROI를 기대하기 어렵습니다. 길고, 대량으로 처리되는 자동화 작업을 찾으세요. 의미 있을 만큼 충분한 볼륨이 필요합니다.

에이전트를 구축할 때 AI를 과도하게 사용하지 마세요. 대부분의 자동화 작업은 일련의 도구 호출과 오케스트레이션 계층 역할을 하는 LLM 한 번 호출만으로 처리할 수 있습니다. AI가 너무 많으면 불필요한 토큰 비용이 발생하고(규모가 커질수록 누적됨), 종종 출력 품질이 떨어집니다.

감사 단계의 마지막 부분은 프로토타이핑입니다. 에이전트 구축 방법은 Agents 101을, 데모에서 프로덕션으로 전환하는 방법은 Agents 102를 참조하세요.

평가(Evals): 고객이 AI 배포에 수백만 달러를 지출한다면, 그것이 제대로 작동하고 있다는 것을 알아야 합니다. 이를 위해 FDE는 상세한 평가 지표를 구축합니다.

좋은 평가는 단순히 에이전트가 제공하는 최종 답변이 정확한지 확인하는 것뿐만 아니라, AI가 인간처럼 사고하는지도 검증합니다. 이를 위해 두 가지를 수행하세요:

인간의 단계를 추적하고 각 단계별로 AI를 평가하세요: 인간은 한 번에 문제를 해결하지 않습니다. 여러 단계의 과정입니다. 그 단계들을 매핑하고 AI가 동일한 체크포인트를 통과하는지 확인하세요.

작게 시작하세요. 의도된 결과에 대한 좋은 예시를 만들고, 모든 것을 그 예시와 비교하여 측정하세요: 고객 지원 에이전트를 구축한다면, 인간 상담원과 함께 앉아 사용자 질문에 대한 최고의 답변이 무엇인지 파악하세요. 몇 가지 작업에 걸쳐 이를 반복하세요. 그러면 '훌륭함'의 기준이 무엇인지 알게 되고, 에이전트를 그 기준에 맞출 수 있습니다.

평가는 고객에게 가치를 증명합니다. 모든 기업이 AI를 원한다고 말하지만, 여전히 그것이 실제로 작동하는지 회의적인 사람들이 많습니다. 좋은 에이전트 평가는 임원이 에이전트가 ROI를 제공할 것이라고 신뢰하는 데 필요한 요소입니다.

배포(Deployment): 대규모 데이터 마이그레이션은 피하세요. 대신 기존 데이터 계층(SharePoint 또는 데이터베이스) 위에 API를 구축하고 그 위에 모델을 오케스트레이터로 배치하여 데이터를 쿼리하게 하세요. 이렇게 하면 시간과 비용을 절약하고, 더 중요하게는 기존 시스템을 교체하는 끔찍한 악몽에서 벗어날 수 있습니다. 저희 고객들은 최신 ERP로 마이그레이션하는 데 수백만 달러와 수년을 소비했습니다. 그들이 가장 원하지 않는 것은 또 다시 교체하는 것입니다.

위의 모든 작업이 완료되면, 에이전트를 안전하게 테스트할 실행 환경을 만드세요. 프로덕션에 투입하기 전에 에이전트를 실행, 테스트, 디버깅할 수 있는 회사 인프라 내의 샌드박스입니다.

프로덕션으로 전환할 때는 천천히 시작하세요. 작은 워크플로우부터 시작해서 작동하게 만든 다음, 추가 기능을 계층적으로 추가하세요. 예를 들어, 버그를 잡고, 조사하고, 무엇이 잘못되었는지 요약하는 티켓을 작성하는 에이전트부터 시작하세요. 그것이 작동한다면, 그때서야 코드를 작성하고 PR을 푸시하는 기능을 부여하세요.

가장 작은 자율성 단위부터 시작하고, 그때서야 조치를 취할 수 있는 능력을 부여하세요.

이것이 FDE로서 감사에서 배포로 가는 방법입니다. 이 단계들을 배우는 것 자체가 전체 직무입니다.

30일 안에 FDE가 되는 방법

일반적으로 FDE로서 가장 성공하는 세 가지 배경이 있습니다: 컨설턴트, 제품 관리자(PM), 소프트웨어 엔지니어. 이 중 어디에도 속하지 않더라도, 이 섹션 끝에 있는 30일 로드맵을 따르면 역할을 얻을 가능성이 기하급수적으로 높아집니다. 지원 및 면접과 병행하여 진행하세요.

컨설턴트/PM

컨설턴트나 PM이라면 데이터를 ROI로 전환하는 능력은 이미 갖추고 있을 것입니다. 그것은 업무의 절반입니다. 하지만 이런 배경을 가진 사람의 가장 큰 장벽은 엔지니어링 경험 부족입니다.

고품질 포트폴리오가 이를 보완할 수 있습니다. 다음 사이드 프로젝트 중 두 개를 선택하여 집중하세요:

• 이전 직장에서 수동으로 처리하던 전체 프로세스를 실행할 수 있는 프로덕션 준비 완료 AI 에이전트. API를 호출하고, 자율적으로 사고 과정을 기록하며, 실패 처리 장치가 있어야 합니다.
• 데이터 세트(진출하려는 산업에 맞는 맞춤 데이터 세트 선택: 법률 문서, 의료 기록, 재무 서류 등) 위에 구축된 RAG 파이프라인.
• 다양한 비즈니스 프로세스(조달, 미지급금 등)에 대해 여러 차원(정확성, 형식, 비용, 지연 시간)에서 에이전트 출력을 평가하는 직접 구축한 평가 프레임워크.
• 현재 AI 통합을 지원하지 않는 레거시 소프트웨어에 LLM을 연결할 수 있는 MCP.

이해를 AI에 외주 주지 마세요. 단계별로 접근하면 이러한 개념은 충분히 이해할 수 있습니다. 이 제목이 30분이 아니라 30일인 데는 이유가 있습니다.

소프트웨어 엔지니어

FDE의 가장 중요한 부분은 의사소통 능력입니다. AI가 할 수 있는 것과 할 수 없는 것을 비기술적인 VP가 이해할 수 있는 언어로 번역해야 합니다. 그걸 못하면 FDE가 될 수 없습니다.

SWE는 컨설팅/PM 섹션에서 언급된 것과 유사한 프로젝트를 구축하되, 구축한 모든 구성 요소를 설명해야 합니다. 기술 스택, 결과, 수행한 반복, 비즈니스 결과. 가장 중요한 것은, 왜 처음에 그 에이전트들을 구축했는지에 대한 이유가 필요하다는 것입니다: 해결하려는 문제점은 무엇이고, 이것이 실제 고객과의 상호작용에서 어떻게 진행될 것인가?

역할 불문 30일 개요

좀 더 구체적인 내용을 원한다면, 거의 모든 것에 대비할 수 있는 다음 30일 계획을 따르세요:

체크포인트 1 (7일차):

• 에이전트란 무엇이며 에이전트 루프가 어떻게 작동하는지: Anthropic의 Building Effective Agents를 읽고, 루프(프롬프트 → 모델 → 응답 → 다음 단계)를 실행하는 스크립트를 작성하세요.
• 에이전트가 도구를 호출하게 하는 방법: Anthropic/OpenAI 도구 사용 튜토리얼을 사용하여 두 개의 도구 호출(API 호출 및 웹 검색)을 추가하세요.
• 적절한 안전장치 구축 방법: 사용자에게 도달하기 전에 입력 검증, 최대 단계 제한, 출력 필터링을 추가하세요.
• 컨텍스트 윈도우를 사용할 때와 외부 메모리를 사용할 때: 상태가 실행 기간보다 오래 지속되어야 하지 않는 한 기본값은 컨텍스트를 사용합니다.
• 감사 추적이란 무엇이며 구축 방법: 모든 프롬프트, 도구 호출 및 응답을 타임스탬프와 함께 기록하세요. 이는 에이전트 오류를 찾고 플래그를 지정하는 데 도움이 됩니다.

체크포인트 2 (14일차):

• 구조화된 출력을 강제하는 방법: 항상 JSON을 반환하세요. OpenAI의 개발자 페이지를 읽어보세요.
• 데모를 프로덕션으로 전환하는 방법과 일반적으로 무엇이 깨지는지: Agents 102를 읽으세요.
• 체크포인트 설정 방법: n 단계마다 에이전트 상태를 파일에 저장하여 마지막 체크포인트에서 다시 시작할 수 있게 하세요.

체크포인트 3 (21일차):

• 재시도 로직과 지수 백오프가 작동하는 방식: 모든 외부 호출에는 재시도가 필요합니다. 실패 시 1초, 2초, 4초, 8초 동안 기다리고 최대 16초로 제한하세요.
• 에이전트 배포 시 비용 최적화 방법: 세 가지: 저렴한 하위 작업에는 저렴한 모델 사용(Opus는 추론에만 사용), 일반적인 프롬프트 캐싱, 최대 토큰 제한. 쿼리당 비용을 추적하세요.
• 평가를 위한 골든 데이터 세트 구축 방법: 20개의 실제 쿼리로 시작하고, 완벽한 출력을 직접 레이블링하세요. Anthropic의 "Demystifying evals for AI agents"가 모든 것을 다룹니다.
• 다중 에이전트 파이프라인과 병렬 아키텍처 작동 방식: 하나의 에이전트가 처리할 수 없을 때 작업을 분할하세요. 하나는 계획, 다른 것들은 실행, 하나는 종합합니다.

체크포인트 4 (마지막 주):

위의 내용을 검토하고 모든 것을 소리 내어 설명하세요. 가능한 모든 것을 비즈니스 지표와 연결하세요.

요약 (TLDR)

FDE는 현재 테크 업계에서 가장 수요가 많은 역할입니다. 모든 기업이 AI를 필요로 하지만, 아무도 그것을 배포하는 방법을 모릅니다.

업무는 세 단계(감사, 평가, 배포)로 구성됩니다. 여러분의 임무는 각 단계와 그 목적을 이해하는 것입니다.

포트폴리오와 그것에 대해 이야기하는 능력이 결정적인 요소입니다. 에이전트, RAG 파이프라인, 평가 프레임워크, MCP 등을 구축하고, 가장 중요하게는 구축하는 모든 것 뒤에 있는 비즈니스 사용 사례를 자신 있게 설명할 수 있어야 합니다.

의사소통 능력 부족은 FDE 역할에서 치명적인 단점입니다. AI가 할 수 있는 것과 할 수 없는 것을 비기술적인 의사 결정권자에게 설명할 수 없다면, 배포는 없을 것입니다.

AI가 정답이 아닌 때를 알라; 이것은 고객과의 신뢰를 구축하고, 더 중요하게는 프로덕션 에이전트의 ROI를 창출합니다.

이 단계들을 따르면 성공 가능성이 기하급수적으로 높아질 것입니다.

SF에서 가장 빠르게 성장하는 Applied AI 회사로 도약하고 싶다면, Varick에서 채용 중입니다. 우리는 전 Citadel Securities COO가 이끄는 실리콘 밸리에서 가장 정예로운 FDE 팀을 구축하고 있습니다. https://www.varickagents.com/careershttps://www.varickagents.com/careers)에서 직접 지원하세요.