Sembra che siamo disposti a credere quasi tutto sul futuro dell'IA, tranne il fatto che le persone comuni possano averne il controllo.
L'IA personale ha introdotto sistemi con un accesso senza precedenti alle nostre vite. Man mano che iniziamo ad affidarci a loro per prendere decisioni e agire in nostra vece, chi controlla quell'intelligenza diventerà una questione di importanza cruciale.
Oggi più che mai, dobbiamo costruire per un futuro che appartenga all'individuo.
Ciò che possiedi è un prodotto migliore.
Nell'era di Internet, c'erano ragioni fondamentali per centralizzare.
I marketplace come Amazon, Uber o DoorDash funzionavano solo perché domanda e offerta erano aggregate in un unico luogo. Facebook o Instagram erano utili perché tutti i tuoi conoscenti erano già lì. Prodotti come Google affrontavano problemi tecnici proibitivi, su scala di petabyte. In tutti questi casi, avere una propria versione avrebbe annullato il senso stesso del servizio.
L'IA personale è diversa. Il suo valore non deriva da quante altre persone usano lo stesso sistema, ma da quanto profondamente diventa tuo.
L'agente personale più utile avrà un contesto completo su tutta la tua vita. Tutto: dalle email, cartelle cliniche e finanze, fino alle conversazioni che fai e ai dispositivi presenti in casa tua. Se non ti fidi completamente delle aziende a cui affidi questi dati, il collo di bottiglia non è più l'intelligenza del modello, ma l'accesso che sei disposto a concedergli.
Possedere la macchina su cui gira il tuo agente elimina questo compromesso. Puoi sfruttare il valore dei tuoi dati senza il timore che vengano inviati a terzi per essere archiviati e analizzati.
Un hardware dedicato aumenta anche drasticamente la quantità di lavoro che l'intelligenza può svolgere per te. Senza un provider che fa pagare ogni singolo token aggiuntivo, possiamo far girare modelli che elaborano continuamente le nuove informazioni man mano che arrivano e agiscono in modo proattivo. Se fatto bene, l'IA diventerà rapidamente molto più brava di te a fornirti valore, semplicemente perché sarà consapevole di ciò che accade nella tua vita, invece di doverla guidare tu con i prompt.
Col tempo, il tuo agente dovrebbe arrivare a pensare, rispondere e lavorare in modo diverso dal mio, perché le nostre vite e ciò che desideriamo da esse sono diverse. Questo dovrebbe valere a ogni livello: dal contesto su cui l'agente ragiona, fino all'harness, e persino ai pesi stessi del modello.
L'intelligenza è potere.
La domanda allora diventa: a chi andranno i benefici di un sistema del genere?
Più l'IA diventa capace ed essenziale per le nostre vite, più diventa potente chi la possiede. Se cediamo il controllo dell'intelligenza a una manciata di laboratori e big tech, diamo loro l'autorità unilaterale di decidere come quell'intelligenza debba comprendere il mondo e agire al suo interno.
Chi è degno di tanta fiducia?
Il fatto che un laboratorio affermi di sapere cosa sia meglio per l'umanità non gli dà il diritto di imporre quel giudizio in modo centralizzato. La precedente generazione di aziende tecnologiche ha fatto promesse moralistiche simili ("don't be evil") per poi rimangiarsele non appena gli incentivi sono cambiati.
In fin dei conti, quando un agente agisce per conto mio, dovrei essere io ad avere l'ultima parola sul suo comportamento. Questa autorità deve restare mia, anche se l'azienda che lo ha costruito non è d'accordo con me.
È profondamente distopico immaginare un sistema costruito sulle informazioni più sensibili della mia vita, di proprietà di un'azienda da migliaia di miliardi di dollari, che mi viene riaffittato un token alla volta.
Più affidiamo noi stessi a questi sistemi, meno è accettabile che la loro proprietà risieda altrove.
Le persone meritano di poter scegliere.
Ci siamo pericolosamente allontanati da ciò che le persone provano realmente riguardo alla tecnologia che costruiamo.
Le persone protestano contro le telecamere Flock, fanno campagna per tenere Palantir fuori dalle istituzioni pubbliche, si scagliano contro i laboratori che addestrano modelli sui loro dati privati, eppure l'industria continua a insistere che "ai consumatori non importa nulla della privacy". Promettiamo loro abbondanza, mentre costruiamo un futuro in cui possiederanno sempre meno e dipenderanno sempre più da noi. Perché dovremmo aspettarci che ne siano entusiasti?
Abbiamo passato anni a rendere comoda la sorveglianza e difficile la proprietà. Ma abbiamo appena iniziato a offrire alle persone un'alternativa.
Alternative ben intenzionate come DuckDuckGo o il self-hosting hanno provato a opporsi e a garantire la privacy, ma richiedevano di accettare un prodotto nettamente inferiore o di sobbarcarsi gran parte del lavoro. Non puoi chiedere ai consumatori di sacrificare un'esperienza migliore, più semplice e spesso gratuita sull'altare di un principio.
Quel compromesso oggi non esiste più. Abbiamo modelli open source che possono girare su un laptop di fascia alta e offrire un'intelligenza paragonabile a quella di Sonnet-5, interamente in locale. Nei prossimi tre-sei mesi, avremo l'intelligenza oggi pari a Opus in esecuzione privata su hardware consumer. Per il 90% delle attività quotidiane, i modelli locali sono già sufficientemente validi.
Stiamo assistendo all'arrivo delle capacità degli enormi sistemi ospitati in cloud direttamente su macchine che le persone comuni possono possedere. Per la prima volta, scegliere la proprietà non significa accontentarsi di meno.
Il nostro obiettivo
Le regole con cui porteremo l'IA personale nelle nostre vite sono ancora tutte da scrivere. Man mano che questi sistemi diventeranno più capaci, più intimi e più difficili da ignorare, cambiare quelle regole sarà sempre più complicato.
I sistemi indipendenti come l'IA locale sono stati costruiti in gran parte per hobbisti e smanettoni. Il nostro compito è rendere quell'esperienza abbastanza utile e semplice da far diventare la proprietà la scelta predefinita.
Voglio vivere in un mondo in cui la tecnologia più potente mai creata dall'umanità appartenga alle persone di cui trasforma la vita. E dobbiamo lottare per costruirla, senza chiedere scusa a nessuno.
