Qualcuno lo racchiude in un'interfaccia facile da usare, ci costruisce un'azienda intorno e dichiara che un intero settore sta per essere sconvolto.
Per un po', può sembrare così. Ma una volta che la stessa capacità diventa ampiamente disponibile, il vantaggio inizia a svanire. Quello che sembrava una rivoluzione potrebbe rivelarsi solo un'altra funzionalità.
L'IA può rendere l'esecuzione più veloce, più economica e più semplice. Ma quando gli stessi modelli e le stesse capacità sono disponibili per tutti, l'accesso alla tecnologia raramente è un vantaggio duraturo.
Il vero vantaggio arriva da come le persone la applicano all'interno di un'organizzazione.
L'IA non capisce l'organizzazione
Un modello può capire la programmazione, la finanza, il marketing o l'assistenza clienti. Ma non capisce automaticamente perché un'organizzazione funziona come funziona.
Quali decisioni ereditate hanno creato gli attuali sistemi?
Quali requisiti dei clienti sono realmente non negoziabili?
Quali processi sono stati introdotti a causa di fallimenti precedenti?
Quali obiettivi sembrano ragionevoli in un foglio di calcolo ma sono quasi impossibili da raggiungere nella pratica?
Quali vincoli legali, di sicurezza, operativi o aziendali contano in questo ambito?
Questa conoscenza raramente si trova in un unico posto completo e affidabile. Può esistere tra persone, sistemi, documenti, conversazioni e decisioni passate.
Spesso la chiamiamo conoscenza tribale. Molta di essa può e dovrebbe essere documentata, ma la documentazione da sola non risolve il problema.
Il RAG e il fine-tuning possono aiutare i modelli ad accedere alla conoscenza organizzativa. Ma non possono garantire che le informazioni siano complete, aggiornate, pertinenti o applicate correttamente.
Le persone sono ancora necessarie per riconoscere il contesto mancante, gestire i casi limite, mettere in discussione le ipotesi e convalidare i risultati.
Ancora più importante, le persone devono esprimere giudizi che vanno oltre ciò che questi sistemi possono supportare in modo affidabile.
La revisione non riguarda solo la correzione degli errori dell'IA
I modelli linguistici di grandi dimensioni possono produrre informazioni errate senza riconoscere che sono errate.
La risposta abituale è aggiungere un revisore umano che controlli l'output. Ma la revisione dell'output dell'IA dovrebbe comportare più della semplice correzione di errori fattuali.
Qualcuno che comprende il dominio e l'organizzazione può:
- Applicare la logica organizzativa
- Riconoscere i casi speciali
- Identificare le informazioni mancanti
- Capire il costo di un errore
- Valutare i rischi aziendali, legali e di sicurezza
- Riconoscere quando l'IA viene utilizzata per il problema sbagliato
- Migliorare il prompt, il flusso di lavoro o il sistema per un uso futuro
Attraverso questo processo, le persone fanno più che correggere il modello. Rendono l'organizzazione più capace.
Gli esseri umani non sono un accessorio del sistema di IA.
Fanno parte del sistema.
I modelli cambiano, ma l'organizzazione deve continuare a funzionare
I modelli di IA vengono costantemente aggiornati.
Un modello più recente può avere un ragionamento migliore ma un tono, una formattazione o un comportamento nell'uso degli strumenti peggiore. Un'API può cambiare. Una funzionalità può essere rimossa. Un modello può essere ritirato.
Ci sono anche rischi associati a una forte dipendenza da un unico fornitore.
I prezzi potrebbero aumentare. Le politiche di utilizzo potrebbero cambiare. Le funzionalità potrebbero diventare non disponibili. Un modello che funziona bene oggi potrebbe non essere più adatto sei mesi dopo.
Un'organizzazione che ha ottimizzato i propri processi attorno a un particolare modello può essere gravemente interrotta se manca di competenze interne.
Un team capace può ridurre questo rischio:
- Capendo come funziona il sistema
- Valutando le nuove versioni del modello
- Testando le modifiche prima del rilascio in produzione
- Monitorando la qualità dell'output
- Adattando prompt e flussi di lavoro
- Confrontando modelli alternativi
- Riducendo la dipendenza da un unico fornitore
Quando un modello diventa troppo costoso, inaffidabile o inadatto, il team dovrebbe essere in grado di migrare con interruzioni limitate.
Senza questa capacità, l'organizzazione non è potenziata dall'IA.
Ne è dipendente.
L'automazione completa può creare nuovi rischi
Gli esseri umani non devono rimanere coinvolti in ogni passaggio di routine.
Ma rimuovere le persone da un processo semplicemente perché può essere automatizzato potrebbe creare un sistema più pericoloso.
Molti prodotti di IA dipendono da modelli, librerie, API, strumenti, plugin e fonti di dati esterni.
Ognuno di questi può diventare un punto di fallimento a causa di:
- Una dipendenza vulnerabile o compromessa
- Dati errati o avvelenati
- Un documento malevolo
- Iniezione di prompt
- Un jailbreak
- Permessi eccessivi
- Utilizzo scorretto degli strumenti
- Un'errata comprensione di ciò che il sistema può fare in sicurezza
Più strati ci sono tra la persona responsabile e il lavoro svolto, più opportunità ci sono che qualcosa vada storto.
Il software tradizionale segue istruzioni predefinite.
I sistemi di IA interpretano le istruzioni.
Questa differenza è importante.
La convalida dell'input, il controllo degli accessi, la registrazione, il monitoraggio, il controllo e i flussi di lavoro di approvazione sono ancora necessari. Ma ora devono tenere conto di sistemi che possono interpretare linguaggio non fidato e intraprendere azioni basate su tale interpretazione.
La risposta non è evitare l'automazione.
È definire chiaramente chi possiede il sistema, chi ne comprende i rischi e chi è responsabile quando qualcosa va storto.
La scelta non è tra umani e IA.
La vera domanda è dove deve rimanere la responsabilità umana.
Entrambi gli estremi del dibattito sull'IA sono fuorvianti
Da un lato si sostiene che l'IA sostituirà completamente il lavoro umano.
Dall'altro si presume che l'IA avrà un impatto trascurabile.
Entrambe le visioni sono troppo semplicistiche.
L'IA automatizzerà alcune attività, eliminerà alcuni ruoli, ne creerà di nuovi e cambierà significativamente molti altri.
Permetterà a team più piccoli di svolgere lavori che in precedenza richiedevano team molto più grandi.
Ma questo non rende le persone meno importanti.
Dà alle persone rimanenti più responsabilità.
Man mano che l'IA rende l'esecuzione più veloce ed economica, il valore del giudizio aumenterà.
L'IA può supportare le decisioni e automatizzare parti del processo decisionale. Ma la responsabilità e la responsabilità non possono essere semplicemente trasferite a un modello.
Il capitale umano non riguarda la preservazione dei posti di lavoro così come sono
Investire nelle persone non significa proteggere ogni ruolo, processo o modo di lavorare esistente.
Significa sviluppare persone che possano adattarsi a nuove circostanze e contribuire al successo a lungo termine dell'organizzazione.
Le persone più preziose potrebbero non essere semplicemente quelle i cui attuali lavori sembrano più al sicuro dall'automazione.
Potrebbero essere le persone che sanno combinare:
- Conoscenza del dominio
- Contesto organizzativo
- Comprensione del cliente
- Capacità tecniche
- Buon giudizio
- Consapevolezza del rischio
- La capacità di utilizzare l'IA in modo efficace
Le organizzazioni non dovrebbero solo chiedersi:
"Quante persone possiamo sostituire con l'IA?"
Dovrebbero anche chiedersi:
- In che modo l'IA può aiutare le nostre persone a migliorare nel loro lavoro?
- Quale conoscenza organizzativa dobbiamo mantenere?
- Chi comprende il sistema nel suo insieme?
- Chi può prendere decisioni difficili quando necessario?
- Come valuteranno le persone le raccomandazioni generate dall'IA?
- Come verrà assegnata la responsabilità quando l'IA intraprende un'azione?
- Come garantiamo che i nostri team possano adattarsi quando la tecnologia cambia?
Queste domande determinano se l'IA diventa uno strumento di efficienza a breve termine o una capacità organizzativa a lungo termine.
Il vero vantaggio
L'IA può ridurre il valore dell'esecuzione di routine mentre aumenta il valore del giudizio.
Può rendere alcuni ruoli superflui, ma può anche rendere le persone giuste molto più capaci.
Le organizzazioni che traggono maggiori benefici dall'IA non si limiteranno ad automatizzare il più possibile.
Useranno l'IA per rendere le loro persone più efficaci.
Automatizzeranno il lavoro dove contano velocità, coerenza e scala.
Manterranno una chiara proprietà umana dove contano contesto, rischio, giudizio e responsabilità.
Le persone non dovrebbero passare il tempo a fare lavoro che l'IA può svolgere in modo affidabile.
Allo stesso tempo, l'IA non dovrebbe essere lasciata a prendere decisioni che richiedono contesto umano, responsabilità o accountability.
Sapere dove si trova quel confine rimarrà un problema umano.
Quando tutti hanno accesso all'IA, il modello stesso non sarà il vantaggio. Lo saranno le persone che sanno come, dove e quando usarlo.
