La superintelligenza è arrivata. Probabilmente non te ne sei accorto, perché si è rivelata, in un certo senso, incrementale.
Non mi credi? Mettilo alla prova. Parla con Fable 5 per un'ora, poi parla con i tuoi dieci amici più intelligenti. Chi è più sveglio? Non preoccuparti, non si offenderanno.
Ci avevano detto di aspettarci qualcosa di più grande. Una volta superata una certa soglia, il QI del sistema sarebbe salito a vette impossibili da seguire, e avremmo condiviso il pianeta con qualcosa in grado di progettare motori a curvatura e di pensare pensieri tanto più lontani da noi quanto i miei lo sono dal mio cane.
Quello che abbiamo ottenuto è uno strumento che scrive codice eccellente, batte gli esseri umani in una gamma sorprendente di compiti e, chiaramente, rimodellerà l'economia. È anche, in qualche modo, incrementale. Nessun decollo. Nessuna esplosione. Questa è la parte strana.
Credo che abbiamo sopravvalutato l'intelligenza, o frainteso cosa sia.
Ecco come la definirei. Abbiamo una manciata sparsa di fatti sul mondo, e l'intelligenza o il ragionamento è tutto ciò che riempie lo spazio tra di loro. Estrapola tra cose che già conosciamo, e i LLM sono incredibili in questo. Studiando le nostre parole, hanno imparato la struttura dei nostri pensieri. Presto la avremo in quantità illimitata, con un QI di 200, per quasi niente.
Dove lo spazio tra i fatti si comporta bene, questo è quasi divino. Il diritto immobiliare non è difficile. Lo abbiamo inventato noi, è internamente coerente, e un modello che contiene ogni statuto e sentenza batterà qualsiasi avvocato gratuitamente. La programmazione, la matematica e la maggior parte del lavoro amministrativo sono altrettanto benigni. Ciò che li rende facili è che hanno spazi di soluzione relativamente lisci e sono verificabili senza troppa difficoltà.
La maggior parte di ciò che conta non si comporta così. L'universo è perlopiù il comportamento emergente di sistemi complessi. Mescola la panna nel caffè. Guarda una tempesta formarsi dal nulla, solo da differenze di temperatura atmosferica e vapore acqueo. Le regole locali sono semplici, e il tornado no. In sistemi come questi, nessuna quantità di ragionamento fornisce la risposta, perché non c'è scorciatoia nascosta negli spazi vuoti. Devi eseguire la cosa. E eseguirla ha il suo limite, poiché piccoli errori si accumulano, ed è per questo che nessun supercomputer ti darà mai una previsione pulita a due settimane. L'oggetto più piccolo che può simulare perfettamente l'universo è l'universo stesso. I sistemi umani sono altrettanto complessi. Non possiamo nemmeno prevedere in modo affidabile i nostri comportamenti, figuriamoci le proprietà emergenti di grandi gruppi di persone che agiscono nel tempo.
Questo, sospetto, è il motivo per cui l'esplosione non è mai arrivata. La storia del decollo presupponeva che il limite fosse il pensiero. Non lo è. Il limite è il contatto con la realtà. Un ragionatore più intelligente colma le lacune tra fatti noti in aree semplici più velocemente e meglio, ma non produce nuovi fatti.
Un'AI ti fornirà un progetto genuinamente intelligente per una pala di turbina a getto. Potrebbe essere molto più probabile che funzioni rispetto a qualsiasi cosa abbiano ideato i tuoi ingegneri. Probabilmente fallirà comunque, perché questo è il tasso di base ai confini di ciò che chiunque conosce. L'unico modo per scoprirlo è costruire la pala e provare a romperla.
Questo è il vero limite all'apprendimento, e non gli importa quanto tu sia intelligente. Trovare idee non è mai stato difficile. La parte difficile è la velocità con cui la realtà risponde.
Niente di tutto ciò dovrebbe preoccuparti. Tutto ciò che una persona potrebbe risolvere a una scrivania pensando, un computer lo risolverà ora gratuitamente. È tanto, e questi strumenti aumenteranno notevolmente il nostro tenore di vita. Ma la maggior parte dei problemi non può essere risolta a una scrivania pensando. Questi rimangono vincolati dalla velocità con cui possiamo costruire la cosa e vedere se tiene, e quell'orologio si muove a malapena.
Per essere chiari, sono molto ottimista! Un ragionamento con QI 200 a portata di mano sarà una manna dal cielo, proprio come lo è stata la forza meccanizzata. Se il lavoro della mente è prezioso quanto il lavoro del muscolo, i cambiamenti potrebbero essere dell'ordine della rivoluzione industriale. I miei nipoti si stupiranno della mia povertà proprio come io mi stupisco di quella dei miei bisnonni. Ma non vedremo nessuno strano "decollo" con motori a curvatura e pensieri che capiremmo come il mio cane capisce i miei. Il futuro è luminoso. E comprensibile.
