À la fin de cet article, vous devriez comprendre pourquoi Anthropic, OpenAI, Google et d'autres entreprises d'IA recherchent des FDE, et comment tirer parti de cette demande.
J'ai moi-même occupé ce poste, et j'ai recruté certains des meilleurs talents pour développer notre activité FDE chez Varick. J'ai constaté qu'il n'existait pas de véritable guide définitif sur le rôle le plus en vogue du secteur tech actuellement. Voici ce guide.
Pourquoi les entreprises d'IA ont-elles besoin de FDE
Pour devenir FDE, la première étape consiste à comprendre pourquoi les entreprises d'IA en ont un besoin crucial.
Si l'on considère que l'intelligence devient une marchandise, il s'ensuit que le seul avantage concurrentiel réside dans la manière et l'endroit où on l'utilise. En fait, j'irais jusqu'à dire qu'il n'y a aucun avantage concurrentiel dans la seule intelligence. Par conséquent, déterminer comment et où les entreprises l'utilisent devient le rôle le plus important, et c'est celui de l'ingénieur déployé sur site (FDE).
Les entreprises font appel à une société spécialisée en IA appliquée (comme Varick) qui déploie des FDE pour les aider à tirer le meilleur parti de la technologie. Cela leur donne accès à une équipe qui a déjà réalisé des transformations à grande échelle basées sur l'IA, permettant aux clients d'avancer beaucoup plus vite que leurs concurrents, et générant ainsi des gains d'efficacité massifs.
Le FDE est un ingénieur hautement qualifié, capable de comprendre très en profondeur les problèmes du client, d'écrire du code dans une base de code qu'il n'a potentiellement jamais vue auparavant, et de communiquer l'impact commercial à un décideur non technique pour conclure l'affaire. C'est une embauche à un million de dollars.
Ce que le rôle exige
Être FDE implique d'être sur site chez un client. Le CTO de Palantir affirme que l'on ne peut pas construire des produits pour un environnement sans être réellement dans cet environnement lui-même. Nous avons constaté la même chose en interne.
Le terme FDE vient d'ailleurs de Palantir, et ils prenaient la présence sur site très au sérieux. En 2010, ils ont travaillé avec les forces spéciales en Afghanistan. Les forces spéciales partaient en mission le jour, recueillaient les retours d'expérience, et les transmettaient aux FDE qui déployaient du code pendant la nuit.
Être dans l'environnement est aussi nécessaire pour déployer un logiciel militaire que pour déployer de l'IA. Pour obtenir de réels gains d'efficacité, une entreprise doit être entièrement repensée autour de l'IA. Et cela n'est possible qu'en travaillant aux côtés du client et en construisant des agents sur mesure, conçus sur des données et avec un contexte spécifiques à l'entreprise.
À propos du rôle
Selon nous, le travail d'un FDE en IA appliquée comporte trois parties principales : Audit, Évaluations, et Déploiement. Détaillons chacune d'elles.
Audit : Vous êtes sur site chez un client, cartographiant les processus et flux de travail au sein de différentes équipes de l'entreprise. Par exemple : deux semaines avec l'équipe des opérations de revenus, une semaine avec les achats, et un mois complet avec la finance.
Avec chaque équipe avec laquelle vous travaillez, vous apprenez plusieurs choses : à quoi ressemble leur travail, où se situent les goulots d'étranglement, et où vous pourriez créer des agents apportant de la valeur.
En plus de comprendre les flux de travail de chaque équipe, une partie importante de la phase d'audit consiste à déterminer ce qui doit être automatisé par rapport à ce qui ne doit pas l'être. Il arrive un moment où les agents peuvent créer plus de problèmes qu'ils n'en résolvent.
Voici trois principes généraux à suivre pour vous aider à décider.
Si un flux de travail peut être défini par des règles mais que les entrées sont variables (une fois un email, la suivante un PDF, la suivante une image scannée), et que le travail implique d'appeler des outils, mettez un agent en place. Si les règles et les entrées sont toutes deux prévisibles, le code est plus rapide et moins cher. Si la décision nécessite la reconnaissance de motifs et une expertise du domaine, laissez-la manuelle.
Vos clients n'obtiendront pas un bon retour sur investissement si l'agent ne s'exécute que cinq fois par mois. Recherchez des automatisations longues et à fort volume. Il faut un volume suffisant pour que cela compte.
N'abusez pas de l'IA lors de la construction de vos agents. La plupart des tâches d'automatisation peuvent être réalisées avec une série d'appels d'outils et un seul appel à un LLM en tant que couche d'orchestration. Trop d'IA entraîne des coûts de tokens inutiles (qui s'accumulent à grande échelle) et souvent une qualité de sortie inférieure.
La dernière partie de la phase d'audit est le prototypage. Consultez Agents 101 pour apprendre à construire un agent, et Agents 102 pour faire passer cet agent du prototype à la production.
Évaluations : Si un client dépense des millions pour un déploiement d'IA, il a besoin de savoir que cela fonctionne. Pour cela, un FDE construit des évaluations détaillées.
Une bonne évaluation ne se contente pas de vérifier si la réponse finale donnée par un agent est correcte ; elle vérifie également que l'IA raisonne comme le ferait un humain. Pour ce faire, deux choses :
Retracez les étapes humaines et notez l'IA sur chacune : un humain ne résout pas les problèmes en une seule étape. C'est un processus en plusieurs étapes. Cartographiez ces étapes et voyez si l'IA atteint les mêmes points de contrôle en cours de route.
Commencez petit avec d'excellents exemples du résultat escompté, puis mesurez tout par rapport à eux : si vous construisez un agent de support client, asseyez-vous avec un humain et déterminez quelle serait la meilleure réponse possible à la question d'un utilisateur. Répétez cela plusieurs fois sur plusieurs tâches. Vous savez maintenant à quoi ressemble le "parfait" et pouvez exiger ce niveau de vos agents.
Les évaluations prouvent la valeur au client. Bien que tout le monde dise vouloir de l'IA dans son entreprise, nombreux sont encore ceux qui doutent de son efficacité. Une bonne évaluation d'agent est ce dont un dirigeant a besoin pour avoir confiance que l'agent apportera un retour sur investissement.
Déploiement : Évitez les migrations de données à grande échelle. Construisez plutôt des API par-dessus une couche de données existante (SharePoint ou bases de données) et placez un modèle comme orchestrateur pour interroger ces données. Cela permet d'économiser du temps et de l'argent, et plus important encore, cela vous évite le cauchemar de démanteler vos systèmes existants. Nos clients ont dépensé des millions de dollars et passé plusieurs années à migrer vers leur dernier ERP. La dernière chose qu'ils souhaitent est de devoir le remplacer à nouveau.
Une fois tout ce qui précède accompli, créez un environnement d'exécution pour tester l'agent en toute sécurité. Il s'agit d'un bac à sable directement dans l'infrastructure de l'entreprise, vous permettant d'exécuter, tester et déboguer l'agent avant de le mettre en production.
Lors du passage en production, commencez lentement. Prenez un petit flux de travail, faites-le fonctionner, puis ajoutez des capacités supplémentaires. Par exemple, commencez par un agent qui détecte les bugs, enquête et rédige un ticket résumant ce qui, selon lui, a mal fonctionné. Si cela fonctionne, donnez-lui ensuite la capacité d'écrire du code et de pousser une Pull Request.
Commencez par la plus petite unité d'autonomie ; ensuite seulement, donnez-lui la capacité d'agir.
Voilà comment passer d'un audit à un déploiement en tant que FDE. Apprendre ces étapes constitue le travail en lui-même.
Comment devenir FDE en 30 jours
On retrouve généralement trois profils qui réussissent le mieux en tant que FDE : les Consultants, les Chefs de Produit, et les Ingénieurs Logiciels. Même si vous ne correspondez à aucun de ces profils, suivre le plan en 30 jours à la fin de cette section augmentera considérablement vos chances d'obtenir ce rôle. Faites cela en parallèle de vos candidatures et entretiens.
Consultants/Chefs de Produit
En tant que consultant ou chef de produit, vous devriez déjà avoir la capacité de traduire des données en retour sur investissement. Cela représente la moitié du travail. Mais le plus grand obstacle pour une personne de ce profil est le manque d'expérience en ingénierie.
Un portfolio de haute qualité peut atténuer ce problème. Choisissez deux de ces projets personnels et investissez-vous pleinement :
- Un agent d'IA prêt pour la production capable d'exécuter un processus entier que vous faisiez manuellement dans votre ancien emploi. Il doit pouvoir appeler des API, journaliser son raisonnement de manière autonome, et disposer d'un système de gestion des échecs.
- Un pipeline RAG construit sur un jeu de données (choisissez un jeu de données personnalisé pour le secteur dans lequel vous essayez de percer : documents juridiques, dossiers médicaux, documents financiers, etc.).
- Un framework d'évaluation que vous avez construit vous-même, notant les sorties d'un agent sur plusieurs dimensions (exactitude, format, coût, latence) pour différents processus métier (achats, comptes fournisseurs, etc.).
- Un MCP où vous connectez un LLM à un logiciel existant qui ne prend pas encore en charge l'intégration de l'IA.
Ne sous-traitez pas votre compréhension à l'IA. Si vous procédez étape par étape, ces concepts devraient être assez compréhensibles. Ce n'est pas pour rien que cela s'intitule 30 jours, et non 30 minutes.
Ingénieurs Logiciels
La partie la plus importante du rôle de FDE est sans doute la communication. Vous devez traduire ce que l'IA peut et ne peut pas faire en termes compréhensibles pour un vice-président non technique. Si vous ne pouvez pas le faire, vous ne pouvez pas être FDE.
Les ingénieurs logiciels devraient construire des projets similaires à ceux mentionnés dans la section consultant/chef de produit, mais en expliquant chaque composant de ce qu'ils viennent de construire : la pile technologique, les résultats, les itérations effectuées, les résultats commerciaux. Le plus important est d'avoir une raison pour construire ces agents en premier lieu : quel était le problème que vous résolvez, et comment cela se déroulerait-il dans une interaction client réelle ?
Plan en 30 jours, quel que soit le profil
Pour quelque chose de plus concret, suivez ce plan en 30 jours qui vous préparera à presque tout :
Point de contrôle 1 (à 7 jours) :
- Qu'est-ce qu'un agent et comment fonctionne une boucle d'agent : lisez le guide d'Anthropic Building Effective Agents, puis écrivez un script qui exécute la boucle : prompt → modèle → réponse → étape suivante.
- Comment faire appeler un outil par un agent : ajoutez deux appels d'outils (un appel API et une recherche web) en utilisant les tutoriels d'utilisation d'outils d'Anthropic/d'OpenAI.
- Comment construire des garde-fous adéquats : ajoutez une validation des entrées, une limite maximale d'étapes, et un filtrage des sorties avant que quoi que ce soit n'atteigne l'utilisateur.
- Quand utiliser la fenêtre de contexte vs la mémoire externe : privilégiez le contexte par défaut, sauf si l'état doit persister au-delà de l'exécution.
- Qu'est-ce qu'une piste d'audit et comment en construire une : enregistrez chaque prompt, appel d'outil et réponse avec des horodatages. Cela aide à trouver et signaler les erreurs de l'agent.
Point de contrôle 2 (à 14 jours) :
- Comment imposer des sorties structurées : renvoyez toujours du JSON. Lisez la page développeur d'OpenAI.
- Comment passer de la démo à la production et ce qui casse généralement : lisez Agents 102.
- Comment créer des points de contrôle : sauvegardez l'état de l'agent toutes les n étapes dans un fichier afin qu'il puisse redémarrer à partir du dernier point de contrôle.
Point de contrôle 3 (à 21 jours) :
- Comment fonctionnent la logique de nouvelle tentative et le backoff exponentiel : chaque appel externe a besoin de tentatives. En cas d'échec, attendez 1s, 2s, 4s, 8s, limite à 16s.
- Comment optimiser les coûts lors du déploiement d'agents : trois choses : des modèles moins chers pour les sous-tâches peu coûteuses (Opus ne doit être utilisé que pour le raisonnement), mettez en cache les prompts courants, limitez le nombre maximal de tokens. Suivez le coût par requête.
- Comment construire un jeu de données de référence pour les évaluations : commencez par 20 requêtes réelles, étiquetez vous-même la sortie parfaite. L'article d'Anthropic "Demystifying evals for AI agents" couvre tout.
- Comment fonctionnent les pipelines multi-agents et les architectures parallèles : divisez la tâche lorsqu'un seul agent ne peut pas la gérer. L'un planifie, d'autres exécutent, un synthétise.
Point de contrôle 4 (dernière semaine) :
Révisez tout ce qui précède et communiquez-le à voix haute. Reliez tout ce que vous pouvez à des indicateurs métier.
TLDR
Le FDE est le rôle le plus recherché dans le secteur tech actuellement. Chaque entreprise a besoin d'IA, mais personne ne sait comment la déployer.
Le travail comporte trois phases (audit, évaluations, déploiement). Votre travail consiste à comprendre chaque phase et son objectif.
Votre portfolio et votre capacité à en parler sont les facteurs déterminants. Construisez des agents, des pipelines RAG, des frameworks d'évaluation, des MCP, etc., et, surtout, soyez capable d'articuler avec confiance le cas d'usage métier derrière tout ce que vous construisez.
Un manque de capacité de communication est un facteur d'exclusion pour le rôle de FDE. Si vous ne pouvez pas expliquer ce que l'IA peut et ne peut pas faire à un décideur non technique, il n'y aura pas de déploiement.
Sachez quand l'IA n'est pas la solution ; cela établit la confiance avec le client et, plus important encore, garantit le retour sur investissement des agents en production.
Suivez ces étapes et vos chances de percer seront exponentiellement plus élevées.
Si vous voulez faire le saut vers l'entreprise d'IA appliquée à la croissance la plus rapide de San Francisco, Varick recrute. Nous construisons l'équipe FDE la plus élite de la Silicon Valley, dirigée par un ancien COO de Citadel Securities. Postulez directement sur https://www.varickagents.com/careershttps://www.varickagents.com/careers).
