Alla fine di questo articolo, capirai perché Anthropic, OpenAI, Google e altre aziende di IA sono alla ricerca di FDE e come puoi sfruttare questa domanda.
Ho svolto io stesso questo lavoro, ho assunto alcuni dei migliori al mondo per costruire il nostro team FDE in Varick, e ho notato che non esiste una guida definitiva per il ruolo più richiesto nella tecnologia in questo momento. Questa è quella guida.
Perché le aziende di IA hanno bisogno di FDE
Per diventare un FDE, il primo passo è interiorizzare perché le aziende di IA ne hanno un disperato bisogno.
Se credi che l'intelligenza stia diventando una commodity, ne consegue che l'unico vantaggio competitivo è come e dove la usi. In effetti, mi spingo fino a dire che non esiste alcun vantaggio competitivo nella sola intelligenza. Pertanto, determinare come e dove le aziende la utilizzano diventa il ruolo più importante, e questo è il ruolo di un Forward Deployed Engineer (FDE).
Le aziende assumono un'azienda di IA Applicata (come Varick) che impiega FDE per aiutarle a ottenere il massimo dalla tecnologia. In questo modo, hanno accesso a un team che ha già realizzato trasformazioni di IA su larga scala, consentendo ai clienti di muoversi molto più velocemente dei concorrenti, ottenendo enormi guadagni di efficienza.
L'FDE è un ingegnere altamente qualificato che può comprendere a fondo i problemi del cliente, scrivere codice in una base di codice potenzialmente mai vista prima e comunicare l'impatto aziendale a un decisore non tecnico per chiudere l'affare. È un'assunzione da un milione di dollari.
Cosa richiede il ruolo
Essere un FDE richiede di essere sul posto con un cliente. Il CTO di Palantir afferma che non è possibile costruire prodotti per un ambiente senza essere effettivamente dentro quell'ambiente. Abbiamo visto la stessa cosa internamente.
Il termine FDE ha effettivamente origine da Palantir, e prendevano molto seriamente l'essere sul posto. Nel 2010, hanno lavorato con le Forze Speciali in Afghanistan. Le Forze Speciali andavano in missione di giorno, ricevevano feedback e lo instradavano agli FDE che rilasciavano codice durante la notte.
Essere nell'ambiente è necessario tanto per implementare software militare quanto per implementare l'IA. Per vedere reali guadagni di efficienza, un'azienda deve essere ricostruita attorno all'IA da zero. E questo è possibile solo stando seduti con il cliente e costruendo agenti personalizzati progettati su dati specifici dell'azienda, con un contesto specifico dell'azienda.
Il ruolo
Secondo noi, ci sono tre parti principali del lavoro di un FDE di IA Applicata: Audit, Valutazioni e Implementazione. Analizziamo ciascuna.
Audit: Sei sul posto con un cliente, mappando i processi/flussi di lavoro all'interno di diversi team dell'azienda. Ad esempio: due settimane con le operazioni di fatturato, una settimana con gli acquisti, e un mese intero con la finanza.
Con ogni team con cui ti siedi, impari alcune cose: com'è il loro lavoro, dove sono i colli di bottiglia e dove potresti creare agenti che forniscano valore.
Oltre a comprendere i flussi di lavoro di ogni team in azienda, una parte importante della fase di audit è determinare cosa dovrebbe essere automatizzato e cosa no. Arriva un punto in cui gli agenti possono creare più problemi di quanti ne risolvano.
Ecco tre principi generali che puoi seguire per aiutarti a decidere.
Se un flusso di lavoro può essere distillato in regole ma gli input sono diversi (un input è un'email, il successivo potrebbe essere un PDF, il successivo un'immagine scansionata), e il lavoro comporta la chiamata a strumenti, inserisci un agente. Se le regole e gli input sono entrambi prevedibili, il codice è più veloce ed economico. Se la decisione richiede riconoscimento di schemi e competenza di dominio, lasciala manuale.
I tuoi clienti non otterranno un buon ROI se l'agente viene eseguito cinque volte al mese. Cerca automazioni lunghe e ad alto volume. Ci deve essere abbastanza volume per fare la differenza.
Non abusare dell'IA quando costruisci i tuoi agenti. La maggior parte delle attività di automazione può essere eseguita con una serie di chiamate a strumenti e una sola chiamata a un LLM come livello orchestrante. Troppa IA porta a costi di token inutili (che si accumulano su larga scala) e spesso a un output di qualità inferiore.
La parte finale della fase di Audit è la prototipazione. Vedi Agents 101 per imparare a costruire un agente, e Agents 102 per portare quell'agente dal demo alla produzione.
Valutazioni: Se un cliente spende milioni per un'implementazione di IA, ha bisogno di sapere che funziona. Per farlo, un FDE costruisce valutazioni dettagliate.
Una buona valutazione non verifica solo se la risposta finale data da un agente è corretta, ma anche che l'IA stia pensando come farebbe un umano. Per farlo, bisogna fare due cose:
Tracciare i passaggi umani e valutare l'IA su ciascuno: Un umano non risolve i problemi in una mossa. È un processo a più fasi. Mappa quelle fasi e verifica se l'IA sta raggiungendo gli stessi checkpoint lungo il percorso.
Iniziare in piccolo con ottimi esempi del risultato desiderato, poi misurare tutto rispetto a essi: Se stai costruendo un agente di supporto clienti, siediti con un umano e scopri qual è la miglior risposta possibile a una domanda dell'utente. Ripeti alcune volte su alcuni compiti. Ora sai com'è "ottimo" e puoi tenere gli agenti a quello standard.
Le valutazioni dimostrano il valore al cliente. Mentre tutti dicono di volere l'IA nella loro azienda, ci sono ancora molti scettici sul fatto che funzioni. Una buona valutazione dell'agente è ciò di cui un dirigente ha bisogno per fidarsi che l'agente fornirà ROI.
Implementazione: Evita migrazioni di dati su larga scala. Costruisci invece API su un livello dati esistente (SharePoint o database) e posiziona un modello sopra come orchestratore per interrogarlo. Questo fa risparmiare tempo e denaro e, cosa più importante, ti salva dall'incubo tremendo di dover strappare i sistemi esistenti. I nostri clienti hanno speso milioni di dollari e diversi anni per migrare al loro ultimo ERP. L'ultima cosa che vogliono fare è sostituirlo di nuovo.
Una volta completato tutto quanto sopra, crea un ambiente di esecuzione per testare l'agente in sicurezza. Questa è una sandbox direttamente nell'infrastruttura dell'azienda, così puoi eseguire, testare e fare debug dell'agente prima di passare alla produzione.
Quando passi alla produzione, inizia lentamente. Prendi un piccolo flusso di lavoro, fallo funzionare e poi aggiungi ulteriori capacità. Ad esempio, inizia con un agente che cattura bug, indaga e scrive un ticket riassumendo cosa pensa sia andato storto. Se funziona, solo allora dagli la capacità di scrivere codice e inviare una PR.
Inizia con la più piccola unità di autonomia; solo allora dagli la capacità di agire.
Questo è il modo in cui si passa da un audit all'implementazione come FDE. Imparare questi passaggi è già di per sé l'intero lavoro.
Come diventare un FDE in 30 giorni
Ci sono solitamente tre background che riscontrano il maggior successo come FDE: Consulenti, Product Manager e Ingegneri del Software. Anche se non rientri in nessuno di questi, seguire la roadmap di 30 giorni alla fine di questa sezione aumenterà esponenzialmente le tue possibilità di ottenere il ruolo. Fallo in parallelo con la candidatura e i colloqui.
Consulenti/PM
Come consulente o PM, dovresti già avere la capacità di tradurre i dati in ROI. Questa è metà del lavoro. Ma l'ostacolo più grande per qualcuno con questo background è la mancanza di esperienza ingegneristica.
Un portfolio di alta qualità può attenuare questo problema. Scegli due di questi progetti collaterali e impegnati a fondo:
- Un agente IA pronto per la produzione che possa eseguire un intero processo che facevi manualmente nel tuo vecchio lavoro. Deve essere in grado di chiamare API, registrare autonomamente il suo ragionamento e avere un sistema di gestione dei fallimenti.
- Una pipeline RAG costruita su un dataset (scegli un dataset personalizzato per il settore in cui stai cercando di entrare: documenti legali, cartelle cliniche, documenti finanziari, ecc.).
- Un framework di valutazione che hai costruito tu stesso e che valuta gli output di un agente su più dimensioni (correttezza, formato, costo, latenza) per diversi processi aziendali (acquisti, contabilità fornitori, ecc.).
- Un MCP in cui puoi collegare un LLM a software legacy che attualmente non supporta l'integrazione con l'IA.
Non esternalizzare la tua comprensione all'IA. Se procedi passo dopo passo, questi concetti dovrebbero essere abbastanza comprensibili. C'è un motivo se si intitola 30 giorni, non 30 minuti.
Ingegneri del Software
Probabilmente la parte più importante dell'essere un FDE è la comunicazione. Devi tradurre ciò che l'IA può e non può fare in qualcosa di sensato per un VP non tecnico. Se non puoi farlo, non puoi essere un FDE.
Gli SWE dovrebbero costruire progetti simili a quelli menzionati nella sezione consulenti/PM, ma spiegare ogni singolo componente di ciò che hanno appena costruito. Lo stack tecnologico, i risultati, le iterazioni effettuate, i risultati aziendali. Ancora più importante, devi avere una ragione per aver costruito quegli agenti in primo luogo: qual era il problema che stavi risolvendo e come potrebbe svolgersi in una reale interazione con il cliente?
Piano di 30 giorni indipendentemente dal ruolo
Per qualcosa di più concreto, segui questo piano di 30 giorni che ti preparerà a quasi tutto:
Checkpoint 1 (7 giorni):
- Cos'è un agente e come funziona un loop di agente: leggi Building Effective Agents di Anthropic, poi scrivi uno script che esegue il loop: prompt → modello → risposta → passo successivo.
- Come far chiamare uno strumento a un agente: aggiungi due chiamate a strumenti (una chiamata API e una ricerca web) usando i tutorial sull'uso degli strumenti di Anthropic/OpenAI.
- Come costruire barriere di protezione adeguate: aggiungi validazione dell'input, un limite massimo di passaggi e filtro dell'output prima che qualcosa raggiunga l'utente.
- Quando usare la finestra di contesto vs memoria esterna: usa il contesto come impostazione predefinita, a meno che lo stato non debba persistere più a lungo dell'esecuzione.
- Cos'è un audit trail e come costruirne uno: registra ogni prompt, chiamata a strumento e risposta con timestamp. Questo aiuta a trovare e segnalare errori dell'agente.
Checkpoint 2 (14 giorni):
- Come imporre output strutturati: restituisci sempre JSON. Leggi la pagina per sviluppatori di OpenAI.
- Come portare un demo in produzione e cosa di solito si rompe: leggi Agents 102.
- Come fare checkpoint: salva lo stato dell'agente ogni n passaggi in un file in modo che possa ripartire dall'ultimo checkpoint.
Checkpoint 3 (21 giorni):
- Come funzionano la logica di ripetizione e il backoff esponenziale: ogni chiamata esterna necessita di tentativi. In caso di fallimento, attendi 1s, 2s, 4s, 8s, con un limite massimo di 16s.
- Come ottimizzare i costi quando si implementano agenti: tre cose: modelli più economici per sottoattività economiche (Opus dovrebbe essere usato solo per il ragionamento), fai cache dei prompt comuni, imposta un limite massimo di token. Tieni traccia del costo per query.
- Come costruire un dataset gold per le valutazioni: inizia con 20 query reali, etichetta tu stesso l'output perfetto. "Demystifying evals for AI agents" di Anthropic copre tutto.
- Come funzionano le pipeline multi-agente e le architetture parallele: dividi il lavoro quando un agente non può gestirlo. Uno pianifica, altri eseguono, uno sintetizza.
Checkpoint 4 (Settimana finale):
Rivedi quanto sopra e comunica tutto ad alta voce. Collega tutto ciò che puoi a metriche aziendali.
TL;DR
L'FDE è il ruolo più richiesto nel panorama tech in questo momento. Ogni azienda ha bisogno di IA, ma nessuno sa come implementarla.
Il lavoro ha tre fasi (audit, valutazioni, implementazione). Il tuo compito è capire ogni fase e il suo scopo.
Il tuo portfolio e la tua capacità di parlarne sono i fattori determinanti. Costruisci agenti, pipeline RAG, framework di valutazione, MCP, ecc., e, soprattutto, sii in grado di articolare con sicurezza il caso d'uso aziendale dietro tutto ciò che costruisci.
La mancanza di capacità di comunicazione è un ostacolo insormontabile per il ruolo di FDE. Se non riesci a spiegare cosa l'IA può e non può fare a un decisore non tecnico, non ci sarà implementazione.
Sappi quando l'IA non è la risposta; questo crea fiducia con il cliente e, cosa più importante, ROI per gli agenti in produzione.
Segui questi passaggi e le tue possibilità di entrare nel settore saranno esponenzialmente più alte.
Se vuoi fare il salto verso l'azienda di IA Applicata in più rapida crescita a San Francisco, Varick sta assumendo. Stiamo costruendo il team FDE più d'élite della Silicon Valley, guidato da un ex COO di Citadel Securities. Candidati direttamente su https://www.varickagents.com/careershttps://www.varickagents.com/careers).
