Cette étude de cas vieille de 145 ans – présentée rien de moins qu'à la Smithsonian Institution – offre une critique potentiellement dévastatrice des grands modèles de langage d'aujourd'hui et des sommes colossales qu'ils engloutissent.
Michael Burry
S'ABONNER À CASSANDRA UNCHAINED
Bienvenue dans ma nouvelle série sur mon Substack Cassandra Unchained, History Rhymes, où je mets en perspective les événements actuels à la lumière d'époques lointaines.
Cassandra Unchained est une publication soutenue par ses lecteurs. Pour recevoir mes nouveaux articles et soutenir mon travail, pensez à vous abonner gratuitement ou à souscrire un abonnement payant.
En fouillant dans de vieux journaux lors d'un samedi tranquille – l'un de mes passe-temps –, je suis tombé sur un article du 19 juin 1880 qui m'a semblé particulièrement pertinent au regard de nos angoisses modernes face à l'IA.
C'est l'histoire de Melville Ballard qui, enfant privé de langage, a observé une souche d'arbre et s'est demandé si le premier homme en était sorti.
New York Times, samedi 19 juin 1880
Cette étude de cas vieille de 145 ans – présentée rien de moins qu'à la Smithsonian Institution – offre une critique potentiellement dévastatrice des grands modèles de langage d'aujourd'hui et des sommes colossales qu'ils engloutissent. À travers une simple histoire humaine, elle proclamait avec audace que la pensée complexe existe dans le silence qui précède les mots.
Aujourd'hui, bien avancés dans le XXIe siècle, en plaçant le langage avant la capacité de raisonnement, nous ne construisons pas une intelligence ; nous fabriquons un miroir de plus en plus sophistiqué.
S'ABONNER À CASSANDRA UNCHAINED
Ce vieux journal contient en réalité deux histoires intéressantes. Commençons par celle du milieu. Il s'agit de la page 3 de cette édition du New York Times, et j'y vois un article intitulé Thought without Language (La pensée sans le langage).
Bien sûr, les grands modèles de langage, les petits modèles de langage et le raisonnement sont le sujet du jour.
Le titre complet de l'article est : « Thought without Language, The Narrative of a Deaf-Mute, His First Thoughts and Experiences » (La pensée sans le langage, le récit d'un sourd-muet, ses premières pensées et expériences). Par ailleurs, cet article avait initialement été publié dans le Washington Star le 12 juin 1880.
L'article porte sur un certain professeur Samuel Porter, du National Deaf-Mute College à Kendall Green, qui a présenté un mémoire à la Smithsonian Institution. Titre du mémoire : « Is There Thought Without Language? Case of a Deaf Mute. » (Existe-t-il une pensée sans le langage ? Le cas d'un sourd-muet.)
S'ABONNER À CASSANDRA UNCHAINED
Au début, quand il est question de sourds-muets et d'enfants n'ayant aucune forme d'activité mentale les distinguant des bêtes… disons que notre compréhension a beaucoup évolué, et j'étais prêt à passer à autre chose.
L'étude de cas concerne un enseignant du Columbia Institute for the Instruction of the Deaf and Dumb. Cet enseignant en particulier, Melville Ballard, est lui-même sourd-muet et diplômé du National Deaf Mute College.
M. Ballard raconte que, durant sa petite enfance, il communiquait avec ses parents et ses frères par des signes naturels ou par la pantomime. Son père, convaincu que l'observation l'aiderait à développer ses facultés, l'emmenait fréquemment en promenade. Il poursuit en expliquant que c'est lors d'une de ces promenades, deux ou trois ans avant d'être initié aux rudiments du langage écrit, qu'il a commencé à se poser la question : « Comment le monde est-il venu à l'existence ? », et que sa curiosité s'est éveillée quant à l'origine de la vie humaine, à sa première apparition, ainsi qu'à la cause de l'existence de la terre, du soleil, de la lune et des étoiles. Un jour, en voyant une grosse souche, il s'est demandé : « Est-il possible que le premier homme venu au monde soit sorti de cette souche ? Mais cette souche n'est que le vestige d'un arbre autrefois magnifique ; et comment cet arbre est-il apparu ? Eh bien, il a simplement commencé à pousser du sol, tout comme ces petits arbres qui poussent maintenant » ; et il a rejeté comme absurde l'idée d'un lien entre l'origine de l'homme et une vieille souche en décomposition. Il ignorait ce qui lui avait suggéré cette interrogation sur l'origine des choses, mais il avait acquis des notions sur la filiation de parent à enfant, sur la reproduction des animaux et sur la production des plantes à partir de graines. La question qui lui venait à l'esprit était de savoir d'où venaient le premier homme, le premier animal et la première plante à l'époque la plus reculée, lorsqu'il n'y avait ni homme, ni animal, ni plante, puisqu'il savait que tout avait un commencement et une fin. Il réfléchissait surtout à l'homme et à la terre, et croyait que l'homme serait anéanti et qu'il n'y avait pas de résurrection au-delà de la
tombe. C'est à l'âge de 5 ans qu'il a commencé à comprendre la filiation de parent à enfant, et il avait environ 8 ou 9 ans lorsqu'il a commencé à s'interroger sur l'origine de l'univers. Quant à la forme de la terre, il a déduit, en regardant une carte des deux hémisphères, qu'il existait deux immenses disques de matière posés l'un près de l'autre ; que le soleil et la lune étaient deux plaques rondes et plates de matière lumineuse, pour lesquelles il éprouvait une sorte de vénération, et il pensait, en les voyant se lever et se coucher, qu'il devait exister quelque chose ayant le pouvoir de gouverner leur course. Il croyait que le soleil entrait dans un trou à l'ouest et ressortait par un autre à l'est, voyageant à travers un grand tube dans la terre, en suivant la même courbe qu'il [le soleil] semblait décrire dans le ciel. Les étoiles lui paraissaient être de minuscules lumières incrustées dans le ciel. Il raconte à quel point il s'est vainement efforcé de comprendre ce sujet jusqu'à son entrée à l'école, à 11 ans. Avant cela, sa mère lui avait dit qu'il y avait un être mystérieux là-haut dans le ciel, mais comme elle ne pouvait pas répondre à ses questions, il a fini par abandonner, désespéré, attristé de ne pas pouvoir se faire une idée précise de ce mystérieux être vivant dans le ciel. Pendant un an après son admission à l'école pour sourds-muets, il apprenait quelques phrases chaque dimanche, et bien qu'il étudie ces mots simples, il n'en saisissait jamais le sens. Il assistait aux offices de la chapelle, mais ils lui étaient presque incompréhensibles en raison de sa connaissance imparfaite de la langue des signes telle qu'elle était utilisée dans l'institution. La deuxième année, il a eu un petit catéchisme contenant une série de questions et de réponses.
Le développement de la compréhension par l'application du langage à la capacité de raisonnement se poursuit.
Il était désormais capable de comprendre la langue des signes employée par ses instructeurs. On pourrait dire que sa nature curieuse aurait dû être satisfaite. Il n'en fut rien ; car lorsqu'il eut appris la création de l'univers par le grand Esprit souverain, il commença à se demander : d'où vient le Créateur ? et se mit à s'interroger sur Sa nature et Son origine. Tout en méditant sur cette question, il se demanda : « Connaîtrons-nous un jour la nature de Dieu et comprendrons-nous Son infinité après être entrés dans Son royaume ? » et ne vaudrait-il pas mieux dire, avec le patriarche d'autrefois : « Peux-tu, en cherchant, découvrir Dieu ? »
Le professeur Porter assène alors son coup de massue, pour ainsi dire, devant ce public de la Smithsonian Institution en 1880.
Le Pr Porter analyse ce cas et note que les bêtes peuvent comprendre certains mots, distinguer certains objets d'autres, etc. Il déclare : « Même en accordant aux bêtes tout ce que l'on peut revendiquer pour elles, n'est-il pas évident que l'homme possède des facultés que nous ne pouvons concevoir comme étant développées à partir de, ou comme de simples élévations de degré de, quoi que ce soit qu'il partage avec les animaux inférieurs.\ \ \ Quelle que soit la similitude dans la manière dont les impressions sont produites ou dans la structure des organes, et quelle que soit la dépendance à l'action organique — c'est-à-dire, *
quelles que soient leurs affinités physiologiques, en tant que sensations ou perceptions, celles de l'œil diffèrent en elles-mêmes et impliquent un don ou un pouvoir spécial que n'impliquent pas celles de l'oreille, de la tête ou de la langue. Il n'en va pas ainsi des actes de la raison comparés au fonctionnement des facultés inférieures.
\ \ \ *
Que les deux partagent certains éléments communs ne prouve pas qu'ils soient entièrement du même ordre, ni qu'il soit possible pour l'un de se développer à partir de l'autre.
Et si l'œil de l'âme, cette raison supérieure par laquelle nous contemplons l'univers des choses, ne peut se tourner vers lui-même pour discerner clairement sa propre nature et ses processus, nous ne devrions pas pour autant, oubliant ce qu'il accomplit, nier sa supériorité essentielle et l'assimiler à ces facultés inférieures et subordonnées que nous pouvons soumettre à son examen. Ce par quoi nous comprenons toutes choses doit être essentiellement supérieur à tout ce qui est compris par cela.
S'ABONNER À CASSANDRA UNCHAINED
L'un des participants à la présentation souligne, fait notable, que les yeux de Ballard transmettaient parfaitement le sens, sans malentendu, par-dessus tout.
L'un des moments les plus intéressants de cette réunion fut lorsque M. Ballard expliqua par signes comment sa mère l'avait informé qu'il allait partir loin pour aller à l'école, où il lirait dans un livre, écrirait et plierait une lettre pour la lui envoyer, etc., et aussi lorsqu'il raconta par pantomime comment un chasseur, après avoir tué un écureuil, s'était accidentellement tiré dessus et tué. Les signes et les gestes de M. Ballard, accompagnés de l'expression de ses yeux et de son visage, ont transmis son message parfaitement au public, et,
selon les mots d'un membre de l'assemblée, l'expression du regard était un langage impossible à mal interpréter.
Arrêtons-nous sur ces deux affirmations :
- « Ce par quoi nous comprenons toutes choses doit être essentiellement supérieur à tout ce qui est compris par cela. »
- « …selon les mots d'un membre de l'assemblée, l'expression du regard était un langage impossible à mal interpréter. »
Par conséquent,
- Le langage sans la capacité de raisonnement échoue à produire de la compréhension.
- Ce n'est qu'avec la capacité de raisonnement que le langage ouvre la voie à la compréhension.
- La compréhension, pleinement réalisée, transcende le langage.
En plaçant le langage en premier, les LLM construisent une forme primitive de raisonnement purement par inférence logique, mais cette forme de raisonnement s'est révélée défaillante et sujette aux hallucinations en raison des limites rencontrées aux multiples zones d'ombre de la connaissance.
La capacité de raisonnement n'a jamais existé. Par conséquent, le langage ne peut pas s'élever, via le raisonnement, jusqu'à la compréhension.
Le professeur suggère que, dans son travail avec les personnes sourdes et muettes, il a découvert qu'une capacité de raisonnement véritable doit exister d'abord, avant le langage, pour que celui-ci puisse libérer la compréhension — fruit de cette capacité de raisonnement véritable et du langage.
« L'expression du regard est le langage qui ne peut être mal interprété. »
Autrement dit, l'expression du regard est l'incarnation d'une compréhension parfaite, sans avoir besoin du langage.
Les grands modèles de langage, en plaçant le langage en premier, avant la capacité de raisonnement véritable, ne pourront jamais atteindre la compréhension.
Si la compréhension transcende réellement le langage, comme le suggérait cette présentation vieille de 144 ans à la Smithsonian Institution, nous devrions pouvoir en trouver des preuves assez facilement aujourd'hui.
S'ABONNER À CASSANDRA UNCHAINED
Je peux personnellement faire le parallèle avec l'étude et la pratique de la médecine. Tout au long des cours préparatoires de premier cycle et pendant une grande partie des études de médecine, la logique déductive est le moyen par lequel l'étudiant organise le vaste domaine médical. Au fil des années cliniques se développent l'art de la médecine, sa manifestation physique, l'émotion, l'expertise humaine. Puis, à un moment donné pendant l'internat ou au début de la carrière du médecin, grâce à la répétition englobant tous ces aspects, la compréhension est atteinte. Toutes les pièces s'assemblent en une toile vaste et complexe qui permet une prise en charge experte et complète du patient.
Deux chirurgiens opérant un cancer de la tête et du cou difficile ou un traumatisme, ou les infirmières travaillant avec les médecins, peuvent parfois communiquer uniquement par le regard, et une compréhension totale est transmise, des actions sont entreprises parce que toutes les parties impliquées ont atteint la compréhension, transcendant l'inférence logique et d'autres formes primitives de raisonnement, comme la mémorisation et la résolution d'énigmes propres aux débuts de la formation d'un professionnel de santé.
Le regard offre alors une saisie intuitive de la réalité fondée sur une compréhension mutuelle, elle-même issue de la capacité de raisonnement en présence du langage.
Le grand modèle de langage, tout comme le petit modèle de langage, reste coincé à mi-chemin. Il peut simuler le raisonnement, mais sans véritable capacité de raisonnement, sans yeux, sans compréhension.
Le test de Ballard : une entité ne possède pas de capacité de compréhension tant que le raisonnement n'a pas été démontré en l'absence de langage.
C'est un défaut connu, un mauvais départ. L'approche originelle de l'IA consistait à générer d'abord une véritable capacité de raisonnement, mais cela ne s'est jamais concrétisé, et le domaine a pivoté vers le langage en premier parce que c'était plus facile.
Ce « mauvais départ » a conduit à un « piège des paramètres », où le traitement linguistique par force brute, alimenté par des milliards de puces énergivores, est devenu un goulot d'étranglement d'une ironie absolue.
S'ABONNER À CASSANDRA UNCHAINED
Comme l'a souligné ma conversation avec Sebastian Siemiatkowski de Klarna, l'avenir réside dans la compression : exploiter d'abord le raisonnement de type « Système 2 » pour éliminer la redondance de l'information et traiter les ensembles de requêtes relativement finis produits par les humains, afin de réduire drastiquement les besoins en calcul.
Cette nouvelle approche rejette la singularité obtenue par des modèles de langage dialoguant entre eux dans un miroir infini, y voyant un gaspillage de ressources sans direction, rendu impossible par l'absence de fondement dans les réalités économiques.
Bien que des avancées comme AlphaGeometry de Google et Coconut de Meta s'orientent enfin vers cette architecture axée sur le « raisonnement d'abord », elles ne font que redécouvrir ce qui avait été présenté à la Smithsonian Institution il y a 144 ans : le langage est le résultat de la compréhension, et non le moteur du raisonnement.
Ce mythe de la mise à l'échelle à plusieurs milliers de milliards de dollars pourrait bien devenir obsolète si l'on revenait au silence du raisonnement prélinguistique, à la pleine capacité de raisonnement du sourd-muet, dont les pensées silencieuses visaient les étoiles du ciel bien avant de trouver les mots pour les décrire.
Silly Valley
J'ai mentionné qu'il y avait une autre histoire intéressante, et elle se trouve sur la même page. Plus pertinente pour la première histoire que quiconque dans les années 1880 n'aurait pu l'imaginer pour 2026.
Cet article s'intitule « San Francisco's Wealth, A Population of Bonanza Speculators » (La richesse de San Francisco, une population de spéculateurs de la bonanza).
Cet article a été rédigé le 1er juin à San Francisco, et n'a été publié dans le New York Times que le 19 juin.
S'ABONNER À CASSANDRA UNCHAINED
L'adage français « plus ça change, plus c'est la même chose » me vient immédiatement à l'esprit.
L'expression « temps difficiles » à San Francisco signifierait presque « temps d'abondance » dans une ville de l'Est, et désigne l'absence d'un train de vie généreux et d'un luxe extravagant plutôt que la présence d'une pauvreté accablante et de moyens restreints. » La Californie était par excellence le paradis de l'homme au petit capital. Pour satisfaire la soif de spéculation, un système particulier de marché ouvert avait été adopté, permettant à celui qui n'avait que 50 $ à investir, en achetant une part, d'acquérir un petit intérêt dans une mine à un dollar l'action, ou deux actions à 50 cents, ou n'importe quel nombre à des prix variables. Un « boom » existait ici sur certaines actions, semblait ne pas dépasser le désir de le faire « juste une fois de plus », il semblait exciter la même fièvre du jeu à San Francisco, et les parts perdues par la firme de la bonanza furent avidement saisies par les habitants de San Francisco, et le « boom » ayant été accompagné de pertes spéculatives de la part de la population, le « boom » disparut et les actions retombèrent à leur niveau normal.
La conclusion de l'article résonne durement avec notre réalité actuelle.
Les habitants de San Francisco semblent s'être habitués à l'idée qu'ils doivent faire fortune d'un seul coup,
et leur grande bonanza de Virginia City ayant échoué, ils semblent effectivement prêts à se donner du mal pour chercher la richesse dans d'autres directions, comme le développement de l'industrie manufacturière, du commerce et des intérêts agricoles.
Presque toute la population est animée par la passion de la spéculation, et si une nouvelle bonanza aussi importante que celle du Nevada venait à être découverte là-bas ou près d'ici, les actions grimperaient à nouveau à des niveaux absurdes, et San Francisco traverserait encore une période de faste pour souffrir à nouveau comme elle l'a fait au cours des deux dernières années.
Dans The Cardinal Sign of a Bubble, Supply Side Gluttony, j'ai décrit cette tendance remarquable, née dans la région de la baie de San Francisco, où la spéculation atteint des niveaux qui stimulent des investissements allant bien, bien au-delà de ce qui est nécessaire pour répondre à la demande finale dans un délai raisonnable.
Lire de vieux journaux comme celui-ci offre le recul nécessaire pour interpréter les événements d'aujourd'hui avec nuance. Que la Silicon Valley doive « traverser encore une période de faste pour souffrir à nouveau », comme elle l'a fait à maintes reprises, ou qu'elle parvienne improbablement à briser ce schéma, j'espère que cette lecture vous aura été utile.
