Questo caso di studio vecchio di 145 anni – presentato nientemeno che allo Smithsonian Institute – offre una critica potenzialmente devastante agli attuali Large Language Model e ai capitali investiti per svilupparli.
Michael Burry
ISCRIVITI A CASSANDRA UNCHAINED
Benvenuti a una nuova rubrica sul mio Substack Cassandra Unchained, History Rhymes, in cui porto prospettive chiave del passato remoto ad applicarsi agli eventi del presente.
Cassandra Unchained è una pubblicazione sostenuta dai lettori. Per ricevere i nuovi articoli e supportare il mio lavoro, valuta di diventare un abbonato gratuito o a pagamento.
Mentre scavavo tra vecchi giornali in un tranquillo sabato – uno dei miei passatempi – mi sono imbattuto in un articolo del 19 giugno 1880 che ho trovato rilevante per le nostre moderne ansie riguardo all'IA.
È la storia di Melville Ballard che, da bambino privo di linguaggio, notò con gli occhi un ceppo d'albero e si chiese se il primo uomo ne fosse uscito fuori.
New York Times, sabato 19 giugno 1880
Questo caso di studio vecchio di 145 anni – presentato nientemeno che allo Smithsonian Institute – offre una critica potenzialmente devastante agli attuali Large Language Model e ai capitali investiti per svilupparli. Attraverso una semplice storia umana, ha annunciato con audacia che il pensiero complesso esiste nel silenzio che precede le parole.
Oggi, ormai inoltrati nel XXI secolo, mettendo il linguaggio prima della capacità di ragionare, non stiamo costruendo intelligenza; stiamo costruendo uno specchio sempre più sofisticato.
ISCRIVITI A CASSANDRA UNCHAINED
In quel vecchio giornale ci sono in realtà due storie interessanti. Partiamo da quella al centro. Questa è la pagina 3 di quell'edizione del New York Times, e vedo un articolo intitolato Thought without Language.
Naturalmente, i Large Language Model, gli Small Language Model e il Reasoning sono l'argomento del momento.
Il titolo completo dell'articolo è: “Thought without Language, The Narrative of a Deaf-Mute, His First Thoughts and Experiences” (Pensiero senza linguaggio, il racconto di un sordomuto, i suoi primi pensieri ed esperienze). Inoltre, l'articolo era stato originariamente pubblicato sul Washington Star il 12 giugno 1880.
La storia riguarda un certo professor Samuel Porter, del National Deaf-Mute College a Kendall Green, che presentò un documento allo Smithsonian Institution. Il titolo del documento: “Is There Thought Without Language? Case of a Deaf Mute.” (Esiste pensiero senza linguaggio? Il caso di un sordomuto).
ISCRIVITI A CASSANDRA UNCHAINED
All'inizio, sentendo parlare di sordomuti e bambini privi di qualsiasi forma di attività mentale che li distingua dalle bestie, beh, la nostra comprensione è cambiata parecchio ed ero pronto a lasciar perdere.
Il caso di studio riguarda un insegnante del Columbia Institute for the Instruction of the Deaf and Dumb. Questo particolare insegnante, Melville Ballard, è anch'egli sordomuto e diplomato al National Deaf Mute College.
Il signor Ballard racconta che durante l'infanzia comunicava con i genitori e i fratelli attraverso segni naturali o pantomime. Suo padre, credendo che l'osservazione avrebbe aiutato a sviluppare le sue facoltà, lo portava spesso a fare passeggiate a cavallo. Continua dicendo che fu durante una di queste passeggiate, due o tre anni prima di essere iniziato ai rudimenti della lingua scritta, che iniziò a porsi la domanda: “Come è nato il mondo?” e si risvegliò in lui la curiosità su quale fosse l'origine della vita umana, la sua prima apparizione, la causa dell'esistenza della terra, del sole, della luna e delle stelle. Una volta, vedendo un grande ceppo d'albero, si chiese: “È possibile che il primo uomo venuto al mondo sia uscito da quel ceppo? Ma quel ceppo è solo ciò che resta di un albero un tempo magnifico; e come è nato quell'albero? Beh, ha semplicemente iniziato a crescere dal terreno, proprio come questi alberelli che stanno spuntando ora”; e scacciò dalla mente come assurda l'idea di un legame tra l'origine dell'uomo e un vecchio ceppo in decomposizione. Non aveva idea di cosa gli avesse suggerito la domanda sull'origine delle cose, ma aveva acquisito nozioni sulla discendenza da genitore a figlio, sulla riproduzione degli animali e sulla produzione delle piante dai semi. La domanda che gli venne in mente fu da dove provenissero il primo uomo, il primo animale e la prima pianta nella notte dei tempi, quando non c'era alcun uomo, alcun animale, alcuna pianta, poiché sapeva che tutto aveva un inizio e una fine. Rifletteva soprattutto sull'uomo e sulla terra, e credeva che l'uomo sarebbe stato annientato e che non ci fosse resurrezione oltre la
tomba. Fu all'età di 5 anni che iniziò a comprendere la discendenza da genitore a figlio, e aveva circa 8 o 9 anni quando cominciò a interrogarsi sull'origine dell'universo. Riguardo alla forma della terra, dedusse dall'osservazione di una mappa dei due emisferi che esistessero due immensi dischi di materia posti l'uno vicino all'altro; che il sole e la luna fossero due piatti rotondi e piatti di materia luminosa, verso i quali nutriva una sorta di reverenza, e pensò, dal loro sorgere e tramontare, che dovesse esserci qualcosa dotato del potere di governarne il corso. Credeva che il sole entrasse in un buco a ovest e uscisse da un altro a est, viaggiando attraverso un grande tubo all'interno della terra, seguendo la stessa curva che esso [il sole] sembrava descrivere nel cielo. Le stelle gli sembravano minuscole luci incastonate nel firmamento. Racconta di come tentò invano di comprendere questo argomento finché non andò a scuola, a 11 anni. Prima di allora, sua madre gli aveva detto che c'era un essere misterioso su nel cielo, ma quando lei non seppe rispondere alle sue domande, vi rinunciò disperato, provando tristezza per non riuscire a farsi un'idea precisa di quel misterioso essere vivente su nel cielo. Per un anno dopo il suo ingresso nella scuola per sordomuti, imparò alcune frasi ogni domenica e, sebbene studiasse quelle semplici parole, non ne acquisì mai alcuna comprensione. Assisteva alle funzioni in cappella, ma erano quasi incomprensibili, a causa della sua conoscenza imperfetta della lingua dei segni utilizzata nell'istituto. Il secondo anno ebbe un piccolo catechismo, contenente una serie di domande e risposte.
Lo sviluppo della comprensione attraverso l'applicazione del linguaggio alla capacità di ragionare continua.
Ora era in grado di comprendere la lingua dei segni impiegata dai suoi istruttori. Si potrebbe dire che la sua indole indagatrice avrebbe dovuto essere soddisfatta. Non fu così; perché quando apprese della creazione dell'universo da parte dell'unico grande Spirito sovrano, iniziò a chiedersi: Da dove viene il Creatore? e si mise a indagarne la natura e l'origine. Mentre rimuginava su questa domanda, si chiese: “Conosceremo mai la natura di Dio e comprenderemo la Sua infinità dopo essere entrati nel Suo regno?” e non sarebbe meglio per noi dire, con l'antico patriarca: “Puoi tu, scrutando, scoprire Dio?”
Il professor Porter fa poi calare il martello, per così dire, su quel pubblico dello Smithsonian Institute del 1880.
Il prof. Porter analizza questo caso e nota che le bestie possono capire alcune parole, distinguere certi oggetti da altri, ecc. Dice: “Concedendo alle bestie il massimo di quanto si possa rivendicare per loro, non è forse ancora evidente che l'uomo possiede facoltà che non possiamo concepire come sviluppate da, o come semplici esaltazioni di grado di, qualcosa che egli ha in comune con gli animali inferiori.\ \ \ Qualunque sia la somiglianza nel modo in cui le impressioni vengono prodotte o nella struttura degli organi, e qualunque sia la dipendenza dall'azione organica—vale a dire, *
per quanto possano essere affini fisiologicamente—tuttavia, come sensazioni o percezioni, quelle dell'occhio sono diverse in sé e implicano un dono o un potere speciale non implicato in quelle dell'orecchio, della testa o della lingua. Non è così per gli atti della ragione rispetto al funzionamento delle facoltà inferiori.
\ \ \ *
Il fatto che le due abbiano alcuni elementi in comune non dimostra che siano interamente dello stesso ordine, né rende possibile che l'una si sviluppi dall'altra.
E se l'occhio dell'anima, la ragione superiore attraverso cui guardiamo l'universo delle cose, non può guardare dentro di sé e discernere chiaramente la propria natura e i propri processi, non dovremmo per questo, dimenticando ciò che fa, negare la sua essenziale superiorità e assimilarla a quelle facoltà inferiori e sussidiarie che possiamo sottoporre al suo esame. Ciò attraverso cui comprendiamo tutte le cose deve essere essenzialmente superiore a qualsiasi altra cosa compresa da esso.
ISCRIVITI A CASSANDRA UNCHAINED
Uno dei partecipanti alla presentazione nota, in modo significativo, come gli occhi di Ballard trasmettessero il significato perfettamente, senza fraintendimenti, più di ogni altra cosa.
Uno degli aspetti più interessanti di questo incontro è stato il signor Ballard che, a segni, spiegava come sua madre lo avesse informato che sarebbe andato lontano a scuola, dove avrebbe letto da un libro, scritto e piegato una lettera per inviargliela, ecc., e inoltre, attraverso la pantomima, raccontava come un cacciatore, dopo aver ucciso uno scoiattolo, si fosse accidentalmente sparato e ucciso. I segni e i gesti del signor Ballard, con l'espressione degli occhi e del viso, hanno trasmesso perfettamente il suo significato al pubblico e,
nelle parole di un membro, l'espressione dell'occhio era un linguaggio che non poteva essere frainteso.
Consideriamo queste due affermazioni:
- “Ciò attraverso cui comprendiamo tutte le cose deve essere essenzialmente superiore a qualsiasi altra cosa compresa da esso.”
- “…nelle parole di un membro, l'espressione dell'occhio era un linguaggio che non poteva essere frainteso.”
Dunque,
- Il linguaggio senza la capacità di ragionare fallisce nella comprensione.
- Solo con la capacità di ragionare il linguaggio sblocca la comprensione.
- La comprensione, pienamente realizzata, trascende il linguaggio.
Mettendo il linguaggio al primo posto, gli LLM costruiscono una forma primitiva di ragionamento puramente attraverso l'inferenza logica, ma questa forma di ragionamento si è dimostrata fallace e incline alle allucinazioni a causa dei limiti presenti nei numerosi margini frastagliati della conoscenza.
La capacità di ragionare non è mai esistita. Pertanto, il linguaggio non può scalare attraverso la ragione fino alla comprensione.
Il professore suggerisce che, nel suo lavoro con persone sorde e mute, ha scoperto che una capacità di vero ragionamento deve esistere prima, antecedentemente al linguaggio, affinché il linguaggio possa sbloccare la comprensione — il prodotto di quella capacità di vero ragionamento e del linguaggio.
“L'espressione dell'occhio è il linguaggio che non può essere frainteso.”
Vale a dire, l'espressione dell'occhio è l'aspetto che assume una comprensione impeccabile, senza bisogno di linguaggio.
I Large Language Model, mettendo il linguaggio al primo posto, prima della capacità di vero ragionamento, non potranno mai raggiungere la comprensione.
Se la comprensione trascende davvero il linguaggio, come suggeriva questa presentazione di 144 anni fa allo Smithsonian, oggi dovremmo trovarne prove piuttosto facilmente.
ISCRIVITI A CASSANDRA UNCHAINED
Personalmente posso collegarlo allo studio e alla pratica della medicina. Durante tutti i corsi universitari pre-medici e gran parte della facoltà di medicina, la logica deduttiva è il mezzo con cui lo studente organizza il vasto campo della medicina. Durante gli anni clinici si sviluppano l'arte medica, la manifestazione fisica, l'emozione, la competenza umana. E poi, a un certo punto durante la specializzazione o all'inizio della carriera del medico, con un volume di casi che coinvolge tutto quanto sopra, si raggiunge la comprensione. Tutte le parti si collegano in una vasta e complessa rete che consente una cura esperta e completa del paziente.
Due chirurghi che operano un difficile tumore della testa e del collo o un trauma, o gli infermieri che lavorano con i medici, a volte riescono a comunicare esclusivamente con gli occhi, e viene trasmessa una piena comprensione, vengono intraprese azioni perché tutte le parti coinvolte hanno raggiunto la comprensione, trascendendo l'inferenza logica e altre forme primitive di ragionamento, come la memorizzazione e la composizione di puzzle tipiche della formazione iniziale di un professionista sanitario.
L'occhio fornisce quindi la presa intuitiva della realtà basata sulla comprensione reciproca, che è proceduta dalla capacità di ragionare in presenza del linguaggio.
Il Large Language Model, così come lo Small Language Model, vive permanentemente nel mezzo. Può simulare il ragionamento, ma senza vera capacità di ragionare, senza occhi, senza comprensione.
Il test di Ballard: un'entità non possiede la capacità di comprensione finché il ragionamento non viene dimostrato in assenza di linguaggio.
Questo è un difetto noto, una cattiva partenza. L'approccio originale all'IA consisteva nel generare prima una vera capacità di ragionamento, ma non è mai stato realizzato, e il settore è passato al linguaggio come priorità perché era più facile.
Questa 'cattiva partenza' ha portato a una "trappola dei parametri", in cui l'elaborazione linguistica a forza bruta alimentata da miriadi di chip avidi di energia è diventata un collo di bottiglia incredibilmente ironico.
ISCRIVITI A CASSANDRA UNCHAINED
Come ha evidenziato la mia conversazione con Sebastian Siemiatkowski di Klarna, il futuro risiede nella compressione: sfruttare il ragionamento 'Sistema 2' come priorità per eliminare la ridondanza delle informazioni e i set di query relativamente finiti prodotti dagli esseri umani, riducendo drasticamente il fabbisogno computazionale.
Questa nuova linea rifiuta la singolarità ottenuta tramite modelli linguistici che parlano tra loro in uno specchio infinito, considerandola uno spreco di risorse senza direzione reso impossibile dalla mancanza di basi nelle realtà economiche.
Mentre frontiere come AlphaGeometry di Google e Coconut di Meta si stanno finalmente muovendo verso questa architettura 'reason-first', stanno essenzialmente riscoprendo ciò che fu presentato allo Smithsonian 144 anni fa: che il linguaggio è l'output della comprensione, non il motore del ragionamento.
Questo mito dello scaling da migliaia di miliardi di dollari potrebbe essere reso superfluo da un ritorno al silenzio del ragionamento pre-linguistico, la capacità di ragionamento a banda piena del sordomuto, i cui pensieri silenziosi raggiungevano le stelle del cielo molto prima di trovare le parole per esse.
Silly Valley
Ora, ho accennato al fatto che c'era un'altra storia interessante, e si trova sulla stessa pagina. Più pertinente alla prima storia di quanto chiunque negli anni '80 dell'Ottocento potesse immaginare che sarebbe stata nel 2026.
Questo articolo è “San Francisco’s Wealth, A Population of Bonanza Speculators” (La ricchezza di San Francisco, una popolazione di speculatori della bonanza).
Questa storia fu scritta il 1° giugno a San Francisco e pubblicata sul New York Times solo il 19 giugno.
ISCRIVITI A CASSANDRA UNCHAINED
Viene in mente il detto francese: "più le cose cambiano, più restano le stesse".
“Tempi duri” a San Francisco è un'espressione che significherebbe quasi “tempi d'oro” in una città della costa orientale, e indica l'assenza di vita spensierata e lusso stravagante piuttosto che la presenza di povertà opprimente e mezzi limitati. La California era per eccellenza il paradiso dell'uomo con poco capitale. Per soddisfare la fame di speculazione, fu adottato il peculiare sistema open-board, grazie al quale l'uomo che aveva 50 $ da investire, acquistando una quota, poteva acquisire un piccolo interesse in una miniera a un dollaro per azione, o due azioni a 50 centesimi, o un numero qualsiasi a prezzi variabili. Qui esisteva un “boom” su determinati titoli, che sembrava non andare oltre il desiderio di farlo “solo un'altra volta”, sembrava eccitare la stessa febbre del gioco d'azzardo a San Francisco, e le quote perse dalla società della bonanza furono avidamente afferrate dal popolo di San Francisco, e poiché il “boom” era stato accompagnato da perdite speculative da parte della gente, il “boom” svanì e i titoli tornarono alla loro condizione normale.
La chiusura dell'articolo colpisce duramente per quanto è attuale oggi.
Gli abitanti di San Francisco sembrano essersi abituati all'idea di dover balzare immediatamente nella fortuna,
e poiché la loro grande bonanza a Virginia City è fallita, non sembrano disposti a sforzarsi di cercare ricchezza in altre direzioni, come lo sviluppo della manifattura, del commercio e degli interessi agricoli.
Quasi l'intera popolazione è pervasa dalla passione per la speculazione, e se una nuova bonanza grande come quella del Nevada venisse scoperta lì o qui vicino, i titoli salirebbero di nuovo a cifre assurde, e San Francisco attraverserebbe nuovamente il periodo dei tempi d'oro per soffrire ancora come ha fatto negli ultimi due anni.
In The Cardinal Sign of a Bubble, Supply Side Gluttony, ho delineato questa notevole tendenza, originaria della San Francisco Bay Area, per cui la speculazione sale a livelli tali da stimolare investimenti ben oltre quelli necessari per la domanda finale in qualsiasi orizzonte temporale ragionevole.
Leggere vecchi giornali come questo offre la prospettiva per interpretare gli eventi di oggi in modo differenziato. Che la Silicon Valley debba “attraversare nuovamente il periodo dei tempi d'oro per soffrire ancora”, come ha fatto ripetutamente, o rompere improbabilmente questo schema, spero che abbiate trovato utile questo articolo.
