Questo è un momento cruciale nella storia umana. L'Intelligenza Artificiale Generale (AGI), un sistema che possiede tutte le capacità cognitive del cervello umano, è probabilmente a pochi anni di distanza. Quando guarderemo indietro a questo periodo nei decenni a venire, credo che ci renderemo conto di essere stati sulle soglie della singolarità - niente di meno che l'alba di una nuova era per l'umanità.
Ho passato tutta la vita a lavorare sull'AGI perché ho sempre avuto la profonda convinzione che, se costruita e implementata in modo responsabile, si sarebbe rivelata una delle tecnologie più benefiche e trasformative mai inventate. L'AGI non può essere paragonata alle scoperte tecnologiche standard, nemmeno a quelle importanti come internet o il mobile - è molto più simile alla scoperta dell'elettricità o del fuoco. Se ci si ferma a pensarci, abbiamo essenzialmente trovato un modo per far pensare la sabbia. È miracoloso.
La portata dell'impatto di questa tecnologia sarà senza precedenti, forse 10 volte quella della Rivoluzione Industriale, a 10 volte la velocità. Ci aiuterà a risolvere alcuni dei più grandi problemi che la società affronta, dall'accelerare la scoperta di farmaci allo sviluppo di nuove fonti di energia pulita, fino alla creazione di nuovi materiali avanzati. Potremmo persino raggiungere un punto in cui le risorse non saranno più il fattore limitante per il progresso umano, dando vita a una nuova, incredibile era di abbondanza.
Le Sfide della Frontiera
L'IA sta già iniziando a fornire benefici concreti, ma per realizzare la sua immensa promessa, dobbiamo navigare questo periodo critico di sviluppo con attenzione e ponderazione. È necessaria un'azione urgente per affrontare i rischi che potrebbero emergere man mano che ci avviciniamo all'AGI. Abbiamo già visto le sfide che i modelli di frontiera pongono per la cybersecurity, e altre minacce, inclusi i rischi nucleari e biologici, potrebbero presto emergere con il progredire delle capacità. All'orizzonte, avremo bisogno di solide garanzie per mantenere il controllo su sistemi sempre più agentivi e auto-miglioranti in modo ricorsivo - e per affrontare problemi sconosciuti che diventeranno più chiari solo col tempo.
Ho sempre creduto nel potere dell'ingegno e della creatività umana per risolvere qualsiasi problema. Sono fiducioso che mitigare i rischi tecnici legati all'IA sia una sfida che possiamo affrontare collettivamente, ma solo se ci diamo il tempo e lo spazio per fare questo prossimo passo cruciale nel modo giusto. Attualmente, come campo e come società in senso più ampio, non lo stiamo facendo.
Al momento, siamo bloccati in una corsa commerciale e geopolitica estremamente intensa e multilivello. Sebbene queste dinamiche competitive alimentino un progresso rapido e accelerino gli incredibili vantaggi, i progressi sulla frontiera stanno superando la nostra comprensione della tecnologia. Nessuno al mondo sa con certezza cosa accadrà da qui in avanti, e persino gli esperti sono in disaccordo. Quando c'è un alto grado di incertezza e la posta in gioco è così alta, procedere con ottimismo cauto è la strategia sensata e corretta. Ciò richiede politiche pubbliche che promuovano l'innovazione, incentivando al contempo la responsabilità e la sicurezza, favoriscano la collaborazione internazionale su questioni chiave di sicurezza e incoraggino un'attenta considerazione su come l'IA viene implementata a beneficio della società.
Un Quadro per un Organismo di Standard per l'IA di Frontiera
Il rapido progresso che stiamo vedendo nell'IA richiede un nuovo approccio per testare le capacità dei modelli di IA di frontiera, che sia dinamico, adattabile e rigoroso. Gli Stati Uniti sono ben posizionati, data la loro posizione economica e tecnica, per fare il primo passo nello sviluppo di un tale quadro. Potrebbero istituire un nuovo Organismo di Standard basato su un partenariato pubblico-privato supervisionato a livello federale o su un'organizzazione di autoregolamentazione, molto simile alla Financial Industry Regulatory Authority (FINRA), con un consiglio che includa esperti tecnici leader indipendenti e rappresentanti dell'open-source. I finanziamenti dovrebbero essere sostanziosi e provenire probabilmente in gran parte dall'industria, al fine di attrarre talenti tecnici di livello mondiale e fornire le risorse computazionali necessarie per test su larga scala.
L'Organismo di Standard sarebbe responsabile dello sviluppo di protocolli di valutazione e della collaborazione con le agenzie federali competenti e i Laboratori Nazionali degli Stati Uniti per condurre test in aree rilevanti per la sicurezza nazionale. Un modello sarebbe qualificato come 'di Classe Frontiera' se soddisfa determinate soglie su una serie di benchmark stabiliti dall'Organismo di Standard e regolarmente aggiornati per stare al passo con l'evoluzione delle capacità dell'IA. Le organizzazioni con 'Modelli di Frontiera' come definiti da tali benchmark sarebbero considerate 'Laboratori di Frontiera' e sarebbero incoraggiate ad adottare le migliori pratiche, come pubblicare schede del modello con dettagli tecnici, mantenere una forte cybersecurity interna, vagliare il personale chiave e fornire risorse sufficienti per la ricerca sulla sicurezza, e altro ancora.
Inizialmente, i Laboratori di Frontiera condividerebbero volontariamente i modelli con l'Organismo di Standard per la revisione fino a 30 giorni prima del rilascio. Una volta che il protocollo di valutazione si dimostrerà efficace e robusto, potrebbe seguire rapidamente una formalizzazione, il che significa che i Modelli di Frontiera dovrebbero superarlo per essere implementati nel mercato statunitense. I Laboratori collaborerebbero anche con l'Organismo di Standard per affrontare eventuali vulnerabilità critiche post-rilascio.
Le valutazioni dei modelli dovrebbero includere valutazioni scientifiche rigorose delle capacità in ambito di cybersecurity, minacce biologiche e altri domini ad alto rischio. Test specifici per l'IA agentiva potrebbero cercare tentativi di eludere le barriere di sicurezza o segni di inganno, e garantire le migliori pratiche, come la marcatura digitale delle immagini generate dall'IA e la generazione di token di output leggibili dall'uomo per comprendere il ragionamento del modello.
Queste valutazioni sarebbero aggiornate regolarmente, forse trimestralmente all'inizio, con benchmark obsoleti o saturi che verrebbero deprecati e sostituiti. Inizialmente, sarebbero sviluppate in consultazione con i Laboratori di Frontiera, ma alla fine l'Organismo di Standard dovrebbe costruire la capacità tecnica per creare i propri test indipendenti dai Laboratori per prevenire l'overfitting. In collaborazione con il governo statunitense, potrebbe promuovere un ecosistema di revisori terzi per aiutare nelle valutazioni e nello sviluppo di nuovi benchmark e valutazioni.
Il punto di forza di questo approccio è che sarebbe tecnicamente focalizzato, supportando al contempo l'innovazione e incentivando un comportamento responsabile. È progettato per tenere il passo con l'accelerazione del campo e adattarsi ai rischi più grandi man mano che vengono identificati, e potrebbe essere intensificato se la gravità della situazione lo richiede, inclusa la possibilità di coordinare un rallentamento dello sviluppo tra i Laboratori di Frontiera, se ritenuto necessario. Essere designati come Laboratorio di Frontiera comporterebbe un notevole prestigio e sarebbe aperto a qualsiasi organizzazione che costruisca modelli che soddisfano i criteri di benchmark. Il quadro potrebbe applicarsi ai modelli di Classe Frontiera indipendentemente dal loro paese d'origine o dal fatto che siano aperti o chiusi, ma qualsiasi modello non di frontiera, ad esempio di startup o del mondo accademico, sarebbe esente da questo processo.
Questo sforzo avviato dagli Stati Uniti fornirebbe un solido punto di partenza per creare standard internazionali condivisi sull'IA di Frontiera. Poiché questa tecnologia influenzerà l'intero pianeta, idealmente questo quadro spingerebbe la comunità internazionale a raggiungere un consenso su come gestire i rischi più gravi, garantendo al contempo che tutti abbiano accesso e possano beneficiare delle opportunità offerte dall'IA.
Il Futuro Non È Ancora Scritto
L'AGI ha il potenziale per essere lo strumento finale per il progresso della scienza e della medicina, e per guidare enormi guadagni di produttività e crescita economica. Ma per raggiungere questo obiettivo, dobbiamo mettere a punto le basi tecniche coordinando un quadro globale condiviso, utilizzando i metodi scientifici più rigorosi e riunendo le migliori menti per lavorare sulle sfide che affrontiamo.
Anche se risolviamo queste difficili sfide tecniche, ci saranno ulteriori complesse questioni economiche e filosofiche da affrontare: quali nuovi modelli economici saranno necessari per aiutare tutti a prosperare in un mondo post-scarsità? Quali valori vogliamo seguire, cosa saranno il significato e lo scopo, e come potrebbe persino cambiare la condizione umana stessa? Risolvere queste domande ovviamente non può e non deve essere lasciato solo ai tecnologi. Richiede che ogni parte della società si unisca per contribuire a definire questo nuovo capitolo.
C'è sia grande entusiasmo che incertezza intorno all'IA, ed entrambi sono giustificati. Ma il futuro non è ancora scritto, dobbiamo usare questa preziosa finestra prima dell'arrivo dell'AGI per plasmare questa tecnologia a beneficio di tutta l'umanità. Ciò che facciamo collettivamente ora determinerà come si svolgerà la prossima fase della civiltà. Guidando in sicurezza l'AGI nel mondo, possiamo entrare in una nuova età dell'oro di scoperta scientifica e progresso, e inaugurare un futuro luminoso di incredibile fioritura umana.
