Nous semblons prêts à croire presque tout sur l'avenir de l'IA, sauf que des gens ordinaires pourraient en avoir le contrôle.
L'IA personnelle a introduit des systèmes dotés d'un accès sans précédent à nos vies. À mesure que nous commençons à nous appuyer sur eux pour prendre des décisions et agir en notre nom, la question de savoir qui contrôle cette intelligence deviendra absolument cruciale.
Plus que jamais, nous devons bâtir un avenir qui appartient à l'individu.
Ce qui vous appartient est un meilleur produit.
À l'ère d'Internet, il existait des raisons fondamentales de centraliser.
Les plateformes comme Amazon, Uber ou DoorDash ne fonctionnaient que parce que l'offre et la demande étaient regroupées au même endroit. Facebook ou Instagram étaient utiles parce que toutes vos connaissances s'y trouvaient déjà. Des produits comme Google représentaient des défis techniques d'une ampleur démesurée, à l'échelle du pétaoctet. Dans tous ces cas, posséder sa propre version aurait détruit tout l'intérêt de la chose.
L'IA personnelle est différente. Sa valeur ne vient pas du nombre de personnes qui utilisent ce même système, mais de la mesure dans laquelle il devient véritablement le vôtre.
L'agent personnel le plus utile disposera d'un contexte complet sur l'ensemble de votre vie. Tout : de vos e-mails, dossiers médicaux et finances jusqu'à vos conversations et aux appareils connectés de votre maison. Si vous n'accordez pas une confiance totale aux entreprises auxquelles vous confiez ces données, le goulot d'étranglement n'est plus l'intelligence du modèle, mais l'accès que vous êtes prêt à lui accorder.
Posséder la machine sur laquelle tourne votre agent élimine ce compromis. Vous pouvez tirer parti de la valeur de vos données sans craindre qu'elles soient envoyées à un tiers pour y être stockées et analysées.
Un matériel dédié augmente également de façon drastique la quantité de travail que l'intelligence peut accomplir pour vous. Sans fournisseur qui facture chaque token supplémentaire, nous pouvons faire tourner des modèles qui traitent continuellement les nouvelles informations à mesure qu'elles arrivent et agissent de manière proactive. Bien conçue, l'IA deviendra rapidement bien plus douée que vous pour créer de la valeur, simplement grâce à sa compréhension de ce qui se passe dans votre vie, plutôt que par vos prompts.
Avec le temps, votre agent devrait évoluer pour penser différemment, répondre différemment et travailler différemment du mien, car nos vies et ce que nous en attendons sont différentes. Cela doit être vrai à tous les niveaux : du contexte sur lequel l'agent raisonne jusqu'à l'infrastructure logicielle, et même aux poids du modèle eux-mêmes.
L'intelligence, c'est le pouvoir.
La question devient alors : à qui profitent réellement les avantages d'un tel système ?
Plus l'IA devient performante et essentielle à nos vies, plus celui qui la possède gagne en pouvoir. Si nous abandonnons le contrôle de l'intelligence à une poignée de laboratoires et de géants de la tech, nous leur accordons l'autorité unilatérale de décider comment cette intelligence doit comprendre le monde et y agir.
À qui peut-on confier un tel pouvoir ?
Ce n'est pas parce qu'un laboratoire prétend savoir ce qui est bon pour l'humanité qu'il a le droit d'imposer ce jugement de manière centralisée. La génération précédente d'entreprises technologiques a fait des promesses moralisatrices similaires (« don't be evil ») avant de plier dès que les incitations économiques ont changé de camp.
En fin de compte, lorsqu'un agent agit en mon nom, je dois avoir le dernier mot sur son comportement. Cette autorité doit rester la mienne, même si l'entreprise qui l'a conçu n'est pas d'accord avec moi.
Il y a quelque chose de profondément dystopique à imaginer un système construit à partir des informations les plus sensibles de ma vie, détenu par une entreprise valant plusieurs milliers de milliards de dollars, puis loué à mon usage token par token.
Plus nous confions de nous-mêmes à ces systèmes, moins il est acceptable que leur propriété appartienne à quelqu'un d'autre.
Le public mérite d'avoir le choix.
Nous sommes dangereusement déconnectés de ce que les gens ressentent vraiment face à la technologie que nous construisons.
Les citoyens manifestent contre les caméras Flock, font campagne pour empêcher Palantir d'entrer dans leurs institutions publiques, s'insurgent contre les laboratoires qui entraînent leurs modèles sur leurs données privées… et pourtant, l'industrie persiste à affirmer que « les consommateurs se fichent de la vie privée ». Nous leur promettons l'abondance tout en bâtissant un avenir où ils possèdent moins et dépendent davantage de nous. Pourquoi s'attendre à ce que cela les enthousiasme ?
Nous avons passé des années à rendre la surveillance pratique et la propriété difficile. Mais nous avons à peine commencé à offrir une véritable alternative.
Des solutions bien intentionnées comme DuckDuckGo ou l'auto-hébergement ont tenté de résister et de protéger la vie privée, mais au prix d'un produit nettement inférieur ou d'un effort technique bien plus important. On ne peut pas demander aux consommateurs de sacrifier une expérience meilleure, plus simple et souvent gratuite au nom d'un principe.
Ce compromis n'a plus lieu d'être. Nous disposons aujourd'hui de modèles ouverts capables de tourner sur un ordinateur portable haut de gamme et d'offrir une intelligence de niveau Sonnet-5 entièrement en local. D'ici trois à six mois, nous aurons l'intelligence actuelle de niveau Opus tournant de manière privée sur du matériel grand public. Pour 90 % des tâches quotidiennes, les modèles locaux sont désormais largement suffisants.
Nous assistons à l'arrivée des capacités des immenses systèmes hébergés de manière centralisée sur des machines que des gens ordinaires peuvent posséder. Pour la première fois, choisir la propriété ne signifie plus accepter moins.
Notre mission
Les conditions selon lesquelles nous intégrons l'IA personnelle à nos vies sont encore en train de s'écrire. À mesure que ces systèmes deviendront plus performants, plus intimes et plus difficiles à contourner, il sera de plus en plus ardu de modifier ces conditions.
Les systèmes indépendants comme l'IA locale ont jusqu'ici été conçus principalement pour les passionnés et les bidouilleurs. Notre rôle est de rendre cette expérience suffisamment utile et simple pour que la propriété devienne la norme.
Je veux vivre dans un monde où la technologie la plus puissante jamais créée par l'humanité appartient à ceux dont elle transforme la vie. Nous devons nous battre sans complexe pour la construire.
