La superintelligence est arrivée. Tu ne t'en es probablement pas rendu compte, parce qu'il s'est avéré que c'était un peu incrémental.
Tu ne me crois pas ? Fais le test. Parle à Fable 5 pendant une heure, puis parle à tes dix amis les plus intelligents. Lequel est le plus intelligent ? Ne t'inquiète pas, ils ne seront pas offensés.
On nous avait promis quelque chose de plus grand. Une fois que les machines auraient franchi une certaine ligne, le QI du système grimperait à des hauteurs que nous ne pourrions pas suivre, et nous partagerions la planète avec quelque chose qui conçoit des moteurs à distorsion et pense des pensées aussi loin au-dessus des nôtres que les miennes le sont au-dessus de celles de mon chien.
Ce que nous avons, c'est un outil qui écrit un excellent code, bat les humains dans une gamme surprenante de tâches, et va clairement remodeler l'économie. Il est aussi, d'une certaine manière, incrémental. Pas de décollage. Pas d'explosion. C'est la partie étrange.
Je pense que nous avons surestimé l'intelligence, ou mal interprété ce qu'elle est.
Voici comment je la définirais. Nous avons une fine dispersion de faits sur le monde, et l'intelligence ou le raisonnement est ce qui remplit l'espace entre eux. Elle extrapole entre ce que nous savons déjà, et les LLM sont incroyables pour ça. En étudiant nos mots, ils ont appris la structure de nos pensées. Nous allons bientôt en avoir un approvisionnement illimité, à 200 de QI, pour presque rien.
Là où l'espace entre les faits se comporte bien, c'est presque divin. Le droit immobilier n'est pas difficile. Nous l'avons inventé, il est cohérent en interne, et un modèle qui contient tous les statuts et décisions devrait battre n'importe quel avocat gratuitement. Le codage, les maths et la plupart des tâches administratives sont tout aussi bénins. Ce qui les rend faciles, c'est qu'ils ont des espaces de solutions relativement lisses et sont vérifiables de manière tractable.
La plupart des choses qui comptent ne se comportent pas comme ça. L'univers est surtout le comportement émergent de systèmes complexes. Remue la crème dans le café. Regarde une tempête se former à partir de rien d'autre que des différences de température atmosphérique et de la vapeur d'eau. Les règles locales sont simples et la tornade ne l'est pas. Dans des systèmes comme ceux-ci, aucune quantité de raisonnement ne donne la réponse, car il n'y a pas de raccourci caché dans les lacunes. Tu dois exécuter la chose. Et l'exécuter a son propre plafond, car les petites erreurs s'accumulent, ce qui explique pourquoi aucun superordinateur ne te donnera jamais une prévision propre à deux semaines. Le plus petit objet qui peut parfaitement simuler l'univers est l'univers lui-même. Les systèmes humains sont tout aussi complexes. Nous ne pouvons même pas prédire nos propres comportements de manière fiable, sans parler des propriétés émergentes de grands groupes de personnes agissant dans le temps.
C'est, je soupçonne, pourquoi l'explosion n'est jamais venue. Le scénario du décollage supposait que la limite était la pensée. Ce n'est pas le cas. La limite est le contact avec la réalité. Un raisonneur plus intelligent comble les lacunes entre les faits connus dans des domaines simples plus rapidement et mieux, mais il ne produit pas de nouveaux faits.
Une IA te donnera une conception vraiment ingénieuse pour une pale de turbine à réaction. Il y a de grandes chances qu'elle fonctionne bien mieux que tout ce que tes ingénieurs ont imaginé. Elle échouera probablement quand même, parce que c'est le taux de base à la frontière de ce que quiconque sait. La seule façon de le savoir est de construire la pale et d'essayer de la casser.
C'est la vraie limite de l'apprentissage, et elle ne se soucie pas de ton intelligence. Trouver des idées n'a jamais été la partie difficile. La partie difficile est la vitesse à laquelle la réalité y répond.
Tout cela ne devrait pas t'inquiéter. Tout ce qu'une personne pouvait élaborer à un bureau en réfléchissant, un ordinateur va maintenant l'élaborer gratuitement. C'est beaucoup, et ces outils augmenteront considérablement notre niveau de vie. Mais la plupart des problèmes ne peuvent pas être résolus à un bureau en réfléchissant. Ceux-là restent liés à la vitesse à laquelle nous pouvons construire la chose et voir si elle tient, et cette horloge bouge à peine.
Pour être clair, je suis très optimiste ! Un raisonnement à 200 de QI à portée de main sera une bénédiction, tout comme la force mécanisée l'a été. Si le travail de l'esprit est aussi précieux que le travail du muscle, les changements pourraient être de l'ordre de la révolution industrielle. Mes petits-enfants s'émerveilleront de ma pauvreté tout comme je m'émerveille de celle de mes arrière-grands-parents. Mais nous n'allons pas voir un étrange « décollage » avec des moteurs à distorsion et des pensées que nous comprendrions comme mon chien comprend les miennes. L'avenir est radieux. Et compréhensible.
