Mentre agenti AI e robot entrano nel lavoro reale, l'intelligenza da sola non determinerà cosa verrà adottato. Saranno prove, responsabilità e fiducia a fare la differenza.
Tutti si chiedono quanto diventerà intelligente l'AI.
Io continuo a pensare a una domanda diversa:
Come faremo a sapere di quale AI possiamo davvero fidarci?
Perché l'intelligenza da sola non costruirà l'economia dell'AI.
Un modello può essere impressionante in una dimostrazione.
Un agente può completare un compito accuratamente selezionato.
Un robot può esibirsi perfettamente in un video controllato.
Ma la vera adozione inizia dopo che la dimostrazione finisce.
Inizia quando un'azienda chiede:
Funzionerà nel nostro ambiente?
Può connettersi ai nostri sistemi?
Chi l'ha costruito?
A quali informazioni può accedere?
Come si comporta quando qualcosa va storto?
Chi è responsabile?
E vale la pena pagare per questo?
Queste domande non sono entusiasmanti come guardare un robot camminare o un agente costruire un'applicazione.
Ma potrebbero decidere quali prodotti sopravvivono.
Stiamo entrando nella parte difficile
Costruire prodotti AI sta diventando più veloce.
Un piccolo team può ora creare qualcosa in settimane che in precedenza avrebbe richiesto una grande azienda, finanziamenti seri e mesi di sviluppo.
Questo è fantastico per l'innovazione.
Ma crea un altro problema.
Il numero di prodotti cresce molto più velocemente della nostra capacità di valutarli.
Aprite qualsiasi directory AI e il modello diventa ovvio.
Migliaia di strumenti.
Descrizioni simili.
Promesse audaci.
Molto poco contesto.
Di solito si può vedere cosa un prodotto afferma di fare.
È molto più difficile capire:
- se funziona in modo coerente;
- se le persone lo stanno già usando;
- quali sistemi supporta;
- cosa succede ai tuoi dati;
- se il creatore sarà ancora attivo il prossimo anno;
- e se il prodotto è genuinamente migliore delle alternative.
La scoperta ti dà opzioni.
La fiducia ti aiuta a prendere una decisione.
L'ecosistema AI ha attualmente molta della prima e non abbastanza della seconda.
Una dimostrazione di cinque minuti non è una prova
Questo è ancora più importante man mano che l'AI esce dallo schermo.
Un chatbot che dà una risposta scadente è frustrante.
Un agente software che prende la decisione finanziaria o operativa sbagliata può essere costoso.
Un robot che si comporta in modo errato in un magazzino, ospedale o spazio pubblico può diventare pericoloso.
Questo cambia lo standard.
Non possiamo valutare l'AI fisica allo stesso modo in cui valutiamo una normale applicazione mobile.
Un'interfaccia raffinata non basta.
Un video virale non basta.
Un grande numero di follower non basta.
Nemmeno un test riuscito è sufficiente se nessuno capisce le condizioni in cui quel test è avvenuto.
Più l'AI si avvicina al lavoro reale, al denaro, alle infrastrutture e alla sicurezza umana, più prove avrà bisogno.
Quelle prove possono includere cronologia delle prestazioni, implementazioni verificate, compatibilità tecnica, feedback degli utenti, informazioni sulla sicurezza, test indipendenti e una chiara responsabilità.
Non tutti i prodotti avranno bisogno di ogni forma di verifica.
Ma "fidati, funziona" non funzionerà su larga scala.
I prossimi vincitori dell'AI potrebbero non essere i più rumorosi
Oggi, l'attenzione spesso determina quali prodotti vengono scoperti.
Il miglior lancio.
Il marchio personale più forte.
Il più grande budget pubblicitario.
La dimostrazione più spettacolare.
Ma attenzione e qualità non sono la stessa cosa.
Probabilmente ci sono eccellenti prodotti AI e progetti di robotica in costruzione proprio ora da persone di cui la maggior parte di noi non ha mai sentito parlare.
Potrebbero avere una conoscenza tecnica profonda ma una distribuzione limitata.
Potrebbero operare al di fuori della Silicon Valley.
Potrebbero non avere un fondatore che pubblica dieci volte al giorno.
Potrebbero risolvere un problema importante in agricoltura, logistica, sanità, istruzione o produzione che non attira immediatamente milioni di visualizzazioni.
Questo non dovrebbe renderli invisibili.
Un'economia AI funzionante ha bisogno di modi per cui l'innovazione credibile possa guadagnarsi la fiducia senza prima vincere un concorso di popolarità.
Ha anche bisogno di modi per cui acquirenti, partner e investitori possano confrontare le opportunità senza passare settimane a cercare su siti web scollegati, gruppi privati e fogli di calcolo.
Questo non è solo un problema di scoperta.
È un problema di infrastruttura della fiducia.
Cosa dovrebbe significare realmente la fiducia
"Fidato" è una di quelle parole che le aziende usano troppo facilmente.
Quindi ho cercato di definirla in modo più pratico.
Per me, la fiducia in un prodotto AI dovrebbe venire da cinque cose.
- Identità
Chi l'ha costruito?
Il creatore o l'azienda è verificabile?
Gli utenti possono capire chi è responsabile della manutenzione?
La sperimentazione anonima ha il suo posto.
Ma l'adozione commerciale richiede responsabilità.
- Prova
Il prodotto funziona al di fuori di una dimostrazione controllata?
Ci sono utenti reali, risultati, test o implementazioni dietro le affermazioni?
Le prove saranno diverse per un nuovo progetto e per un'azienda matura.
L'importante è essere onesti sulla differenza.
- Trasparenza
Cosa fa il prodotto?
Cosa non fa?
Quali dati utilizza?
Quali autorizzazioni richiede?
Dove sono i suoi limiti?
La fiducia non richiede di rivelare ogni riga di codice.
Richiede di dare alle persone abbastanza informazioni per prendere una decisione informata.
- Reputazione
Cos'è successo quando altre persone lo hanno usato?
Ha funzionato?
Il supporto era disponibile?
I problemi sono stati gestiti correttamente?
La reputazione dovrebbe essere guadagnata attraverso attività reali, non fabbricata attraverso valutazioni vuote.
- Responsabilità
Cosa succede quando il sistema fallisce?
Un'azione può essere revisionata?
L'accesso può essere rimosso?
Una transazione può essere contestata?
C'è una persona o organizzazione responsabile della risoluzione del problema?
La prova della fiducia non è se qualcosa non fallisce mai.
Tutto alla fine fallisce.
La prova è se il fallimento può essere compreso, contenuto e corretto.
La fiducia non può diventare un muro
C'è un altro lato di questa storia.
Se i sistemi di fiducia sono progettati male, possono proteggere le aziende consolidate ed escludere tutti gli altri.
Questo sarebbe un errore.
Un nuovo costruttore non dovrebbe aver bisogno di milioni in finanziamenti, un investitore famoso o una certificazione costosa solo per essere preso sul serio.
Lo scopo dell'infrastruttura della fiducia non dovrebbe essere decidere a chi è permesso innovare.
Dovrebbe aiutare le persone a capire cosa stanno guardando.
Un progetto in fase di prototipo dovrebbe poterlo dire chiaramente.
Un prodotto pronto per la produzione dovrebbe poter dimostrare perché.
Un robot sperimentale non dovrebbe essere presentato come commercialmente provato.
Ma dovrebbe comunque avere un posto dove essere scoperto, supportato e migliorato.
L'obiettivo non è far sembrare tutti i progetti uguali.
È rendere visibili le loro differenze.
Questo crea un ambiente più equo per i creatori e più sicuro per gli acquirenti.
Cosa mi sta insegnando costruire NexoraX
Quando ho iniziato a pensare seriamente a NexoraX, la scoperta sembrava il problema ovvio.
Ci sono strumenti AI, agenti, prodotti robotici, progetti di ricerca e creatori sparsi su innumerevoli piattaforme.
Avvicinarli sembrava già prezioso.
Ma più vado a fondo in questo viaggio, più mi rendo conto che la scoperta è solo la porta d'ingresso.
Le persone non hanno solo bisogno di più cose da sfogliare.
Hanno bisogno di modi migliori per capire ciò che vedono.
Hanno bisogno di contesto.
Hanno bisogno di segnali.
Hanno bisogno di prove.
E, alla fine, hanno bisogno di abbastanza fiducia per agire.
Questo può significare provare un prodotto.
Acquistarlo.
Distribuirlo.
Sostenere il suo creatore.
Collaborare con l'azienda.
O seguire il progetto mentre si sviluppa.
Sto ancora imparando come dovrebbe essere il sistema giusto.
Alcune risposte arriveranno dalla tecnologia.
Molte arriveranno dall'ascolto di costruttori, acquirenti, ricercatori, investitori e delle persone che si prevede useranno questi sistemi nel mondo reale.
Questo è uno dei motivi per cui condivido questo viaggio prima che tutto sia finito.
Le persone che entrano in questo ecosistema ora dovrebbero avere voce in capitolo su come si sviluppa.
La vera corsa all'AI
La corsa pubblica all'AI è solitamente descritta come una competizione per l'intelligenza.
Chi ha il modello più forte?
L'agente più capace?
Il robot più veloce?
Queste domande contano.
Ma un'altra corsa si sta formando sotto di esse.
Chi può rendere l'AI comprensibile?
Chi può renderla affidabile?
Chi può collegare l'innovazione con le persone che ne hanno bisogno?
Chi può creare fiducia senza soffocare la sperimentazione?
L'intelligenza renderà l'AI potente.
La fiducia la renderà utilizzabile.
E senza fiducia, gran parte dell'innovazione che viene creata oggi potrebbe non andare mai oltre la dimostrazione.
Siamo ancora all'inizio.
Ma questa è una delle domande che credo plasmerà tutto ciò che verrà dopo.
