Quelqu'un l'emballe dans une interface facile à utiliser, crée une entreprise autour, et déclare qu'une industrie entière est sur le point d'être bouleversée.
Pendant un temps, cela peut sembler être le cas. Mais une fois que la même capacité devient largement disponible, l'avantage commence à disparaître. Ce qui semblait être une disruption pourrait n'être qu'une fonctionnalité de plus.
L'IA peut rendre l'exécution plus rapide, moins chère et plus facile. Mais lorsque les mêmes modèles et capacités sont accessibles à tous, l'accès à la technologie est rarement un avantage durable.
Le véritable avantage vient de la manière dont les gens l'appliquent au sein d'une organisation.
L'IA ne comprend pas l'organisation
Un modèle peut comprendre la programmation, la finance, le marketing ou le support client. Mais il ne comprend pas automatiquement pourquoi une organisation fonctionne comme elle le fait.
Quelles décisions héritées ont créé les systèmes actuels ?
Quelles exigences clients sont véritablement non négociables ?
Quels processus ont été introduits à cause d'échecs précédents ?
Quels objectifs semblent raisonnables dans un tableur mais sont presque impossibles à atteindre en pratique ?
Quelles contraintes juridiques, sécuritaires, opérationnelles ou métier importent dans le domaine ?
Cette connaissance est rarement disponible dans un endroit complet et fiable. Elle peut être répartie entre les personnes, les systèmes, les documents, les conversations et les décisions passées.
On l'appelle souvent la connaissance tribale. Une plus grande partie peut et doit être documentée, mais la documentation seule ne résout pas le problème.
Le RAG et le réglage fin peuvent aider les modèles à accéder aux connaissances organisationnelles. Mais ils ne peuvent pas garantir que l'information est complète, à jour, pertinente ou appliquée correctement.
Des personnes sont encore nécessaires pour reconnaître le contexte manquant, gérer les cas particuliers, remettre en question les hypothèses et valider les résultats.
Plus important encore, les personnes doivent porter des jugements qui vont au-delà de ce que ces systèmes peuvent soutenir de manière fiable.
La révision ne consiste pas seulement à corriger les erreurs de l'IA
Les grands modèles de langage peuvent produire des informations incorrectes sans reconnaître qu'elles sont incorrectes.
La réponse habituelle est d'ajouter un réviseur humain qui vérifie la sortie. Mais réviser la sortie de l'IA devrait impliquer plus que la correction d'erreurs factuelles.
Quelqu'un qui comprend le domaine et l'organisation peut :
- Appliquer la logique organisationnelle
- Reconnaître les cas particuliers
- Identifier les informations manquantes
- Comprendre le coût d'une erreur
- Évaluer les risques commerciaux, juridiques et sécuritaires
- Reconnaître quand l'IA est utilisée pour le mauvais problème
- Améliorer l'invite, le flux de travail ou le système pour une utilisation future
Grâce à ce processus, les personnes font plus que corriger le modèle. Elles rendent l'organisation plus compétente.
Les humains ne sont pas un accessoire du système d'IA.
Ils font partie du système.
Les modèles changent, mais l'organisation doit continuer à fonctionner
Les modèles d'IA sont constamment mis à jour.
Un modèle plus récent peut avoir un meilleur raisonnement mais un ton, un formatage ou un comportement d'utilisation d'outils moins bons. Une API peut changer. Une fonctionnalité peut être supprimée. Un modèle peut être retiré.
Il existe également des risques associés à une forte dépendance envers un seul fournisseur.
Les prix peuvent augmenter. Les politiques d'utilisation peuvent changer. Les fonctionnalités peuvent devenir indisponibles. Un modèle qui fonctionne bien aujourd'hui pourrait ne plus convenir six mois plus tard.
Une organisation qui a optimisé ses processus autour d'un modèle particulier peut être gravement perturbée si elle manque d'expertise interne.
Une équipe compétente peut réduire ce risque en :
- Comprenant le fonctionnement du système
- Évaluant les nouvelles versions de modèles
- Testant les changements avant le déploiement en production
- Surveillant la qualité des sorties
- Adaptant les invites et les flux de travail
- Comparant les modèles alternatifs
- Réduisant la dépendance envers un seul fournisseur
Lorsqu'un modèle devient trop cher, peu fiable ou inadapté, l'équipe doit être capable de migrer avec des perturbations limitées.
Sans cette capacité, l'organisation n'est pas renforcée par l'IA.
Elle en dépend.
L'automatisation complète peut créer de nouveaux risques
Les humains n'ont pas besoin de rester impliqués dans chaque étape routinière.
Mais retirer les personnes d'un processus simplement parce qu'il peut être automatisé peut créer un système plus dangereux.
De nombreux produits d'IA dépendent de modèles, bibliothèques, API, outils, plugins et sources de données externes.
N'importe lequel d'entre eux peut devenir un point de défaillance en raison de :
- Une dépendance vulnérable ou compromise
- Des données incorrectes ou empoisonnées
- Un document malveillant
- Une injection d'invite
- Un jailbreak
- Des autorisations excessives
- Une utilisation incorrecte d'un outil
- Une méconnaissance de ce que le système peut faire en toute sécurité
Plus il y a de couches entre la personne responsable et le travail effectué, plus il y a d'opportunités pour que quelque chose se passe mal.
Les logiciels traditionnels suivent des instructions prédéfinies.
Les systèmes d'IA interprètent les instructions.
Cette différence compte.
La validation des entrées, le contrôle d'accès, la journalisation, la surveillance, l'audit et les flux de validation sont toujours nécessaires. Mais ils doivent désormais tenir compte de systèmes qui peuvent interpréter un langage non fiable et prendre des actions basées sur cette interprétation.
La réponse n'est pas d'éviter l'automatisation.
C'est de définir clairement qui possède le système, qui comprend ses risques et qui est responsable quand quelque chose tourne mal.
Le choix n'est pas entre les humains et l'IA.
La vraie question est de savoir où la responsabilité humaine doit rester.
Les deux extrêmes du débat sur l'IA sont trompeurs
Un côté affirme que l'IA remplacera complètement le travail humain.
L'autre suppose que l'IA aura peu d'impact significatif.
Les deux points de vue sont trop simplistes.
L'IA automatisera certaines tâches, éliminera certains rôles, en créera de nouveaux et en modifiera considérablement beaucoup d'autres.
Elle permettra à des équipes plus petites d'effectuer un travail qui nécessitait auparavant des équipes beaucoup plus grandes.
Mais cela ne rend pas les personnes moins importantes.
Cela donne aux personnes restantes plus de responsabilités.
Alors que l'IA rend l'exécution plus rapide et moins chère, la valeur du jugement augmentera.
L'IA peut soutenir les décisions et automatiser certaines parties du processus de prise de décision. Mais la responsabilité et l'obligation de rendre des comptes ne peuvent pas simplement être transférées à un modèle.
Le capital humain ne consiste pas à préserver les emplois tels qu'ils sont
Investir dans les personnes ne signifie pas protéger chaque rôle, processus ou méthode de travail existant.
Cela signifie développer des personnes capables de s'adapter à de nouvelles circonstances et de contribuer au succès à long terme de l'organisation.
Les personnes les plus précieuses ne sont peut-être pas simplement celles dont les emplois actuels semblent les plus à l'abri de l'automatisation.
Elles peuvent être les personnes capables de combiner :
- La connaissance du domaine
- Le contexte organisationnel
- La compréhension du client
- La capacité technique
- Un bon jugement
- La conscience des risques
- La capacité à utiliser efficacement l'IA
Les organisations ne devraient pas seulement se demander :
« Combien de personnes pouvons-nous remplacer par l'IA ? »
Elles devraient aussi se demander :
- Comment l'IA peut-elle aider nos collaborateurs à mieux faire leur travail ?
- Quelles connaissances organisationnelles devons-nous conserver ?
- Qui comprend le système dans son ensemble ?
- Qui peut prendre des décisions difficiles quand cela est nécessaire ?
- Comment les gens évalueront-ils les recommandations générées par l'IA ?
- Comment la responsabilité sera-t-elle attribuée lorsque l'IA prendra une action ?
- Comment garantir que nos équipes peuvent s'adapter lorsque la technologie change ?
Ces questions déterminent si l'IA devient un outil d'efficacité à court terme ou une capacité organisationnelle à long terme.
Le véritable avantage
L'IA peut réduire la valeur de l'exécution routinière tout en augmentant la valeur du jugement.
Elle peut rendre certains rôles inutiles, mais elle peut aussi rendre les bonnes personnes bien plus compétentes.
Les organisations qui bénéficieront le plus de l'IA ne se contenteront pas d'automatiser autant que possible.
Elles utiliseront l'IA pour rendre leurs collaborateurs plus efficaces.
Elles automatiseront le travail où la rapidité, la cohérence et l'échelle importent.
Elles maintiendront une propriété humaine claire là où le contexte, le risque, le jugement et la responsabilité importent.
Les gens ne devraient pas perdre leur temps à faire un travail que l'IA peut effectuer de manière fiable.
En même temps, l'IA ne devrait pas être laissée à prendre des décisions qui nécessitent un contexte, une responsabilité ou une obligation de rendre compte humains.
Savoir où se situe cette frontière restera un problème humain.
Quand tout le monde a accès à l'IA, le modèle lui-même ne sera pas l'avantage. Les personnes qui savent comment, où et quand l'utiliser le seront.
