Alors que les agents IA et les robots intègrent le monde réel, l'intelligence seule ne déterminera pas ce qui sera adopté. La preuve, la responsabilité et la confiance le feront.
Tout le monde se demande à quel point l'IA deviendra intelligente.
Moi, je ne cesse de réfléchir à une autre question :
Comment saurons-nous à quelle IA nous pouvons réellement faire confiance ?
Parce que l'intelligence seule ne construira pas l'économie de l'IA.
Un modèle peut être impressionnant lors d'une démonstration.
Un agent peut accomplir une tâche soigneusement sélectionnée.
Un robot peut fonctionner parfaitement dans une vidéo contrôlée.
Mais la véritable adoption commence après la fin de la démonstration.
Elle commence quand une entreprise demande :
Est-ce que ça fonctionnera dans notre environnement ?
Est-ce que ça peut se connecter à nos systèmes ?
Qui l'a construit ?
À quelles informations peut-il accéder ?
Comment se comporte-t-il quand quelque chose tourne mal ?
Qui est responsable ?
Et est-ce que ça vaut le coup de payer ?
Ces questions ne sont pas aussi excitantes que de regarder un robot marcher ou un agent construire une application.
Mais elles peuvent décider quels produits survivront.
Nous entrons dans la partie difficile
Construire des produits d'IA devient plus rapide.
Une petite équipe peut désormais créer en quelques semaines ce qui aurait auparavant nécessité une grande entreprise, des financements importants et des mois de développement.
C'est excellent pour l'innovation.
Mais cela crée un autre problème.
Le nombre de produits augmente bien plus vite que notre capacité à les évaluer.
Ouvrez n'importe quel répertoire d'IA et le schéma devient évident.
Des milliers d'outils.
Des descriptions similaires.
Des promesses audacieuses.
Très peu de contexte.
Vous pouvez généralement voir ce qu'un produit prétend faire.
Il est bien plus difficile de comprendre :
- s'il fonctionne de manière cohérente ;
- si des personnes l'utilisent déjà ;
- quels systèmes il prend en charge ;
- ce qu'il advient de vos données ;
- si le créateur sera encore là l'année prochaine ;
- et si le produit est réellement meilleur que les alternatives.
La découverte vous donne des options.
La confiance vous aide à prendre une décision.
L'écosystème de l'IA possède actuellement beaucoup de la première et pas assez de la seconde.
Une démonstration de cinq minutes n'est pas une preuve
Cela devient encore plus important à mesure que l'IA sort de l'écran.
Un chatbot qui donne une mauvaise réponse est frustrant.
Un agent logiciel qui prend une mauvaise décision financière ou opérationnelle peut coûter cher.
Un robot qui se comporte mal dans un entrepôt, un hôpital ou un espace public peut devenir dangereux.
Cela change la donne.
Nous ne pouvons pas évaluer l'IA physique de la même manière que nous évaluons une application mobile ordinaire.
Une interface soignée ne suffit pas.
Une vidéo virale ne suffit pas.
Un grand nombre d'abonnés ne suffit pas.
Même un test réussi ne suffit pas si personne ne comprend les conditions dans lesquelles ce test a eu lieu.
Plus l'IA se rapproche du travail réel, de l'argent, des infrastructures et de la sécurité humaine, plus elle aura besoin de preuves.
Ces preuves peuvent inclure l'historique des performances, les déploiements vérifiés, la compatibilité technique, les retours d'utilisateurs, les informations de sécurité, les tests indépendants et une responsabilité claire.
Tous les produits n'auront pas besoin de toutes les formes de vérification.
Mais « faites-moi confiance, ça marche » ne passera pas à l'échelle.
Les prochains gagnants de l'IA ne seront peut-être pas les plus bruyants
Aujourd'hui, l'attention détermine souvent quels produits sont découverts.
Le meilleur lancement.
La marque personnelle la plus forte.
Le plus gros budget publicitaire.
La démonstration la plus spectaculaire.
Mais attention et qualité ne sont pas la même chose.
Il existe probablement d'excellents produits d'IA et projets robotiques en cours de développement par des gens dont la plupart d'entre nous n'ont jamais entendu parler.
Ils possèdent peut-être une connaissance technique approfondie mais une diffusion limitée.
Ils opèrent peut-être en dehors de la Silicon Valley.
Ils n'ont peut-être pas un fondateur qui publie dix fois par jour.
Ils résolvent peut-être un problème important dans l'agriculture, la logistique, la santé, l'éducation ou la fabrication qui n'attire pas immédiatement des millions de vues.
Cela ne devrait pas les rendre invisibles.
Une économie de l'IA fonctionnelle a besoin de moyens pour que l'innovation crédible gagne la confiance sans d'abord remporter un concours de popularité.
Elle a aussi besoin de moyens pour que les acheteurs, partenaires et investisseurs puissent comparer les opportunités sans passer des semaines à chercher sur des sites web disparates, des groupes privés et des feuilles de calcul.
Ce n'est pas seulement un problème de découverte.
C'est un problème d'infrastructure de confiance.
Ce que la confiance devrait réellement signifier
« De confiance » est un de ces mots que les entreprises utilisent trop facilement.
Alors j'ai essayé de le définir de manière plus pratique.
Pour moi, la confiance dans un produit d'IA devrait reposer sur cinq éléments.
- Identité
Qui l'a construit ?
Le créateur ou l'entreprise est-il vérifiable ?
Les utilisateurs peuvent-ils comprendre qui est responsable de sa maintenance ?
L'expérimentation anonyme a sa place.
Mais l'adoption commerciale exige une responsabilité.
- Preuve
Le produit fonctionne-t-il en dehors d'une démonstration contrôlée ?
Y a-t-il de vrais utilisateurs, résultats, tests ou déploiements derrière les affirmations ?
La preuve sera différente pour un nouveau projet et une entreprise mature.
L'important est d'être honnête sur la différence.
- Transparence
Que fait le produit ?
Que ne fait-il pas ?
Quelles données utilise-t-il ?
Quelles autorisations nécessite-t-il ?
Où sont ses limites ?
La confiance n'exige pas de révéler chaque ligne de code.
Elle exige de donner aux gens suffisamment d'informations pour prendre une décision éclairée.
- Réputation
Que s'est-il passé quand d'autres personnes l'ont utilisé ?
Cela a-t-il fonctionné ?
Le support était-il disponible ?
Les problèmes ont-ils été traités correctement ?
La réputation doit être gagnée par une activité réelle, pas fabriquée par des notes vides.
- Responsabilité
Que se passe-t-il quand le système tombe en panne ?
Une action peut-elle être revue ?
L'accès peut-il être supprimé ?
Une transaction peut-elle être contestée ?
Y a-t-il une personne ou une organisation responsable de la résolution du problème ?
Le test de la confiance n'est pas que quelque chose ne tombe jamais en panne.
Tout finit par tomber en panne un jour.
Le test est de savoir si la panne peut être comprise, contenue et corrigée.
La confiance ne doit pas devenir un mur
Il y a un autre aspect à cela.
Si les systèmes de confiance sont mal conçus, ils peuvent protéger les entreprises établies et verrouiller l'accès à tous les autres.
Ce serait une erreur.
Un nouveau constructeur ne devrait pas avoir besoin de millions de financement, d'un investisseur célèbre ou d'une certification coûteuse simplement pour être pris au sérieux.
Le but de l'infrastructure de confiance ne devrait pas être de décider qui a le droit d'innover.
Elle devrait aider les gens à comprendre ce qu'ils regardent.
Un projet au stade de prototype devrait pouvoir le dire clairement.
Un produit prêt pour la production devrait pouvoir démontrer pourquoi.
Un robot expérimental ne devrait pas être présenté comme commercialement éprouvé.
Mais il devrait toujours avoir une place pour être découvert, soutenu et amélioré.
L'objectif n'est pas de faire en sorte que tous les projets se ressemblent.
C'est de rendre leurs différences visibles.
Cela crée un environnement plus équitable pour les créateurs et plus sûr pour les acheteurs.
Ce que la construction de NexoraX m'apprend
Quand j'ai commencé à réfléchir sérieusement à NexoraX, la découverte m'est apparue comme le problème évident.
Il y a des outils d'IA, des agents, des produits robotiques, des projets de recherche et des créateurs répartis sur d'innombrables plateformes.
Les rapprocher me semblait déjà précieux.
Mais plus j'avance dans ce cheminement, plus je réalise que la découverte n'est que la porte d'entrée.
Les gens n'ont pas simplement besoin de plus de choses à parcourir.
Ils ont besoin de meilleurs moyens pour comprendre ce qu'ils voient.
Ils ont besoin de contexte.
Ils ont besoin de signaux.
Ils ont besoin de preuves.
Et finalement, ils ont besoin d'assez de confiance pour passer à l'action.
Cela peut signifier essayer un produit.
L'acheter.
Le déployer.
Soutenir son créateur.
S'associer avec l'entreprise.
Ou suivre le projet pendant son développement.
J'apprends encore à quoi devrait ressembler le bon système.
Certaines réponses viendront de la technologie.
Beaucoup viendront de l'écoute des constructeurs, acheteurs, chercheurs, investisseurs et des personnes censées utiliser ces systèmes dans le monde réel.
C'est une des raisons pour lesquelles je partage ce cheminement avant que tout ne soit terminé.
Les personnes qui entrent maintenant dans cet écosystème devraient avoir une voix dans son développement.
La vraie course à l'IA
La course publique à l'IA est généralement décrite comme une compétition pour l'intelligence.
Qui a le modèle le plus puissant ?
L'agent le plus capable ?
Le robot le plus rapide ?
Ces questions comptent.
Mais une autre course se forme en dessous.
Qui peut rendre l'IA compréhensible ?
Qui peut la rendre fiable ?
Qui peut connecter l'innovation avec les personnes qui en ont besoin ?
Qui peut créer la confiance sans étouffer l'expérimentation ?
L'intelligence rendra l'IA puissante.
La confiance la rendra utilisable.
Et sans confiance, une grande partie de l'innovation créée aujourd'hui pourrait ne jamais dépasser le stade de la démonstration.
Nous sommes encore tôt.
Mais c'est l'une des questions qui, je crois, façonnera tout ce qui va suivre.
