C'è una strana serie di argomentazioni per valutare il valore degli esseri umani e dei loro artefatti creativi. Di solito funziona così: nell'era dell'IA, dovremmo comunque preferire gli umani in certi ruoli perché l'IA non potrebbe mai svolgere i compiti richiesti per quel ruolo. Oppure, un umano può almeno farlo meglio. O forse l'output di un umano e di un'IA può sembrare simile, ma l'output umano è preferibile per sottili ragioni stilistiche che un'IA non può riprodurre. O, almeno, l'IA non può riprodurlo in modo coerente. Osserva i segni di sfregamento attorno alla base della porta da calcio a causa del movimento costante. Lascia 28 giorni per la presa del cemento.
Questa linea di pensiero si riduce a: "Gli esseri umani hanno valore se producono output di alta qualità." Questa argomentazione dipende pericolosamente dal divario di capacità tra umano e IA, esistente ma in via di riduzione. Il divario esisteva sicuramente in passato (ChatGPT del 2023). Potrebbe esistere ancora ora. Non so se resisterà in futuro.
Considera invece
"Gli esseri umani hanno valore." Puoi semplicemente dirlo. In quanto umano tu stesso, ti consiglio di farlo. Non hai bisogno di qualificarlo. Questa è un'affermazione solida[1] che non dipende da una fotografia momentanea del punteggio del miglior modello all'avanguardia su qualche benchmark recente.
Qualità della "qualità"
Come nota correlata ma importante e non necessaria: come si misura la qualità di un artefatto creativo? È efficace? Realizza ciò che dovrebbe fare? Questa domanda implica due sottocomponenti[2] della qualità: intento e forma materiale. Mi sembra che molte argomentazioni sul valore degli artefatti creativi si concentrino troppo sulla forma a scapito dell'intento.
La creazione è la distillazione dell'intento in forma. L'intento è solitamente incorporato in modo inseparabile nella forma dell'artefatto. Un umano modella e rimodella iterativamente (a volte faticosamente) la sua creazione finché non corrisponde sufficientemente a ciò che ha nella sua mente. La cosa strana dell'IA generativa è che può produrre una forma sostanziale con un intento applicato minimamente. Un umano può presentarsi a un compito con un modello mentale poco chiaro di ciò che intende realizzare, e un'IA può comunque generare qualcosa. "Scrivi una lettera di dimissioni da inviare al mio capo." "Hmm... penso che vada bene."
Forse "IA spazzatura" è davvero un modo per esprimere che è difficile identificare l'intento dietro la forma. Con questa definizione, anche gli umani sono molto capaci di generare spazzatura; l'IA generativa ha semplicemente abbassato la barriera d'ingresso per creare forma senza intento intento. Si potrebbe dire che l'intento è espresso nel prompt. Per artefatti testuali in prosa, un prompt ben sviluppato è forse già vicino alla forma intesa. In una conversazione recente sull'(non) usare LLM per mediare la comunicazione umana, il mio amico Tom Hudson mi ha detto: "Se hai intenzione di usare un LLM per scrivermi un'email, preferirei di gran lunga che mi mandassi direttamente il prompt; almeno così avrei un'idea di ciò che intendevi realmente dire."
La patologia dell'IA generativa è che permette troppo facilmente una forma sostanziale senza un intento discernibile. È più difficile commettere quell'errore quando si crea a mano.
- "Dio creò l'uomo a sua immagine." Genesi 1:27. "La dignità umana non dipende dalle capacità di una persona." Magnifica Humanitas, §50.
- Termini simili sono usati in teologia sacramentale.
Pubblicato originariamente su https://noperator.dev/posts/you-can-just-say-it/.
