Di recente ho riletto "Hackers" di Steven Levy con mia figlia. Levy descrive come la poesia di Brautigan del 1967 "Tutti sorvegliati da macchine di amorevole grazia" sia stata fonte d'ispirazione per gli "Hardware Hackers" californiani degli anni '70 e per organizzazioni come Community Memory.
Nel 2026, l'espressione "tutti sorvegliati da macchine di amorevole grazia" evoca l'immagine dell'umanità cullata tra le braccia di un'IA potente e allineata ("amante dell'umanità"): un dittatore benevolo dell'IA. Nel suo saggio intitolato "machines of loving grace", Dario Amodei suggerisce (pur riconoscendo una profonda incertezza) che una forma del futuro economico potrebbe essere organizzata attorno a sistemi di IA (allineati ai valori umani) che decidono come "distribuire risorse... agli umani basandosi su una sorta di economia secondaria di ciò che i sistemi di IA ritengono sensato premiare negli umani". Questo sembra collocare le IA come genitori che controllano e si prendono cura dei bisogni materiali dei loro figli umani e decidono come premiarli o punirli. Per me, un tale "genitore IA" assomiglia molto a un dittatore benevolo.¹
Indipendentemente dal fatto che si consideri l'IA come un genitore amorevole un esito positivo o negativo, Brautigan e (cosa più importante) gli hacker californiani avevano una visione molto diversa e più decentralizzata. Negli anni '60, i computer erano macchine enormi prodotte da aziende come IBM. Erano odiati da molti a sinistra e considerati parte del complesso militare-industriale. Ma c'era un gruppo che combinava la politica di sinistra (o almeno un atteggiamento anti-establishment) con l'amore per la tecnologia, e credeva che i computer potessero diventare strumenti di decentralizzazione e liberazione. Per farlo, i giganteschi e costosi computer avrebbero dovuto lasciare il posto a macchine piccole ed economiche. Questo era l'obiettivo degli "hardware hacker", ed è questo il movimento che ha portato all'Apple II e alla rivoluzione del personal computer.
Oggi, come i mainframe IBM degli anni '60, i sistemi di IA sono grandi e costosi, e vengono sempre più integrati in applicazioni militari. Ancora una volta, molte persone a sinistra (e di recente anche a destra) nutrono un forte odio e timore verso questa tecnologia. Sebbene una certa apprensione possa essere giustificata, rifiutandosi di confrontarsi con l'IA e di riconoscerne le capacità, queste componenti si rendono meno rilevanti nel plasmare il progresso dell'IA. Inoltre, mentre gli Stati Uniti sono leader nella frontiera, stiamo arretrando nell'IA a pesi aperti, e i modelli chiusi sono soggetti a restrizioni crescenti. Tutte queste tendenze non sono di buon auspicio per un futuro più decentralizzato.
Le leggi di scala ci dicono che il modo per aumentare l'intelligenza è attraverso risorse sempre maggiori — potenza di calcolo, dati, energia. Quindi, a differenza degli anni '70, le IA non diventano più piccole e distribuite, ma più grandi e in data center sempre più estesi. Nel suo saggio, Amodei ha descritto l'AGI come "un paese di geni in un data center". Ma chi è il sovrano di questo paese? È l'azienda di IA che possiede il data center? L'IA stessa?
Data la tendenza verso sistemi sempre più grandi e costosi, è possibile che le poche parti che possono permettersi tali sistemi catturino tutto il valore economico che generano. Inoltre, se le IA sono più intelligenti di noi, la tentazione di dare loro maggior controllo per vantaggi economici o militari potrebbe essere difficile da resistere. Temo che la concentrazione del potere, sia nelle mani di poche entità che dell'IA stessa, possa essere il "percorso predefinito". Ma questa scelta non è inevitabile.
Sono "pilled" sulla "bitter lesson" e sulle "scaling laws" quanto chiunque altro. Concordo sul fatto che, in ultima analisi, l'intelligenza è semplicemente computazione, indipendentemente dal fatto che avvenga su proteine o silicio, e aumentare le unità di calcolo aumenterà l'intelligenza. Ma questo non determina l'esito sociale o economico. Sì, i sistemi di IA diventeranno più potenti e molto più intelligenti di noi. No, non significa che dobbiamo accettare dittatori IA, benevoli o meno. Né significa che solo il governo e pochi laboratori dovrebbero avere accesso all'IA avanzata. Potremmo percorrere la via del controllo centralizzato, ma non siamo obbligati a farlo. Persone, istituzioni e legislatori possono fare scelte su come bilanciare efficienza, sicurezza e autonomia individuale. Non devono sacrificare quest'ultima per le prime.
Alcuni potrebbero sostenere che le forze di mercato e del capitalismo spingeranno le persone a cedere il controllo alle IA. Ma l'economia, in ultima analisi, riguarda ciò che gli umani valorizzano. Gli umani sono animali sociali e attribuiamo valore ai beni (es. l'oro) non per il loro valore intrinseco, ma per come altri umani li valorizzano. L'IA cambierà radicalmente ciò che valorizziamo, anche se è difficile prevedere in che modi. Non sono nemmeno sicuro che concetti economici come produttività, lavoro, capitale e PIL continueranno ad avere senso nel mondo post-AGI. I fisici sanno che "più è diverso". Mentre gli scienziati studiavano nuove scale, che fossero galattiche o subatomiche, hanno dovuto inventare nuove teorie, dalla fisica newtoniana alla relatività generale e alla meccanica quantistica. Forse avremo bisogno di un nuovo tipo di economia.
Altri potrebbero dire che, dato il suo potere, la sicurezza richiede che l'IA sia controllata dal governo, da un laboratorio "attento alla sicurezza", o dall'IA allineata stessa. I rischi sono reali — io stesso lavoro sulla sicurezza dell'IA. Ma dovremmo anche ricordare la lunga storia dell'uso delle minacce per togliere libertà alle persone. Alcune di queste minacce erano reali — c'erano effettivamente molte spie sovietiche durante il periodo McCarthy e la NSA ha avuto a che fare con organizzazioni terroristiche reali durante l'era Snowden. Ma col senno di poi abbiamo capito che il compromesso non ne valeva la pena. Dovremmo investire in salvaguardie, ma essere empirici sia sui rischi che sull'efficacia dei nostri metodi. Cercare di raggiungere una sicurezza perfetta contro tutti i rischi, reali e immaginari, non solo è destinato a fallire, ma ci costerà la libertà nel processo.
I rischi dell'IA possono portare a una mentalità del "fine giustifica i mezzi": "i buoni devono vincere" e loro o "la buona IA" devono avere il controllo. Ma se vogliamo un futuro incentrato sull'umano e decentralizzato, allora nessuna singola entità dovrebbe avere il controllo. Nessuna parte dovrebbe avere il monopolio dell'intelligenza. Questo include l'IA stessa: sebbene possiamo e dobbiamo addestrare dei guardrail, la personalità del modello, per quanto buona, non è mai un sostituto del nostro processo democratico.
Gli Stati Uniti sono sopravvissuti e prosperati negli ultimi 250 anni non perché i nostri presidenti siano stati tutti santi o geni, ma grazie al nostro sistema di pesi e contrappesi. Spero che possiamo mantenere un tale sistema per i prossimi 250 anni, e garantire che noi umani siamo liberi di perseguire la nostra felicità nel modo in cui la definiamo. Ciò richiede che la distribuzione del potere dell'IA sia "scritta nel DNA" di come costruiamo e distribuiamo questa tecnologia. Se non lo facciamo, proprio come le sanguinose rivoluzioni spesso portano a regimi autoritari, potremmo non essere in grado di arrivare a un futuro decentralizzato attraverso mezzi centralizzati.
Ringraziamenti: Ho deciso di scrivere questo articolo dopo una discussione sull'AGI con Sam Altman. Tuttavia, le opinioni qui espresse sono mie personali e non rappresentano Sam, OpenAI o Harvard.
Note:
¹ Come accennato, Amodei ammette incertezza sulla questione; Vedi anche "The Adolescence of Technology". Ci sono molte parti in entrambi i saggi con cui concordo.
