Jev spiegato per i non addetti ai lavori

Se negli ultimi giorni hai passato un po’ di tempo su internet, probabilmente ti sei imbattuto in Jev, un nuovo modello AI che ha fatto scalpore nella community dell’intelligenza artificiale. Jev non è un LLM tradizionale. È progettato per prendere decisioni, non per generare testo. Dopo aver approfondito Jev negli ultimi giorni, credo davvero che l’hype sia giustificato e che ci sia un enorme potenziale per chi crea prodotti.

Come ho già detto in precedenza, è fondamentale che tutti capiscano come funziona realmente la tecnologia dietro l’AI, anche chi ricopre ruoli non tecnici. Comprendere il funzionamento di un sistema agentico ti permette di applicare questa tecnologia con cognizione di causa ai tuoi prodotti.

Diverse persone mi hanno contattato spiegando di aver letto tutto ciò che c’è su Jev ma di non capire ancora cosa sia effettivamente. Questo articolo è pensato per loro. È una guida a Jev per i comuni mortali. Se tutto quello che hai letto finora su Jev ti ha lasciato più domande che risposte, questo articolo sarà diverso. Alla fine avrai una comprensione fondamentale di cosa sia Jev, in cosa differisca da un LLM e come puoi applicarlo ai prodotti che stai sviluppando.

L’importanza delle decisioni nel software

Il software è pieno di decisioni. Questo messaggio del cliente richiede attenzione urgente? Questo pagamento è fraudolento? Dobbiamo mostrare la pagina in inglese o in francese?

Un prodotto potrebbe dover prendere decisioni di questo tipo milioni di volte al giorno.

Ma la complessità delle decisioni che i computer sono in grado di prendere è limitata. Le domande sopra possono essere risolte con semplici regole. Ad esempio, potremmo decidere se mostrare la pagina in inglese o in francese basandoci sulle impostazioni linguistiche dell’utente o magari sul suo indirizzo IP. Ma non tutte le domande sono così semplici.

Prendi, ad esempio, la foto di un hotdog. Nessun insieme di semplici regole permetterà a un computer di identificare se la mia foto contiene effettivamente un hotdog.

Quindi gli informatici hanno escogitato un nuovo metodo per far sì che i computer prendano decisioni più complesse: il machine learning. Si è scoperto che combinando alcuni algoritmi ingegnosi con tantissimi esempi di foto contenenti hotdog, un computer può diventare piuttosto abile nell’identificare le immagini con gli hotdog.

GIF

Il nostro modello per gli hotdog è un tipo di modello chiamato classificatore. Si chiama così perché classifica le cose. Oggi i classificatori sono ampiamente utilizzati nel software per prendere decisioni complesse.

Ma il problema dei classificatori è che non generalizzano al di fuori del dominio su cui sono stati addestrati. Il mio classificatore che identifica le foto degli hotdog non potrà aiutarmi a individuare transazioni fraudolente. E a causa dei dati e della competenza necessari per addestrare un classificatore, c’erano molti tipi di problemi che i computer non erano in grado di risolvere. Fino a quando…

Il Large Language Model

Quando OpenAI ha rilasciato ChatGPT nel novembre 2022, ha conquistato il mondo. La ragione della sua popolarità non era tanto l’intelligenza pura, quanto piuttosto la sua capacità di generalizzare.

ChatGPT aveva una comprensione fondamentale del mondo che gli permetteva di conversare sugli hotdog e sulle transazioni fraudolente, tutto in uno.

I Large Language Models come ChatGPT, Claude, Grok e Kimi hanno la funzione primaria di generare testo. Ma chiunque abbia usato questi modelli sa che possono pensare, ragionare e, in ultima analisi, prendere decisioni. Come esempio, ecco come un LLM potrebbe prendere una decisione sull’essere o meno un hotdog una determinata immagine.

GIF

Sì, i Large Language Models sono in grado di prendere decisioni. E possono farlo in un’ampia gamma di domini di conoscenza.

Potrebbero gli LLM essere il Santo Graal? Potremmo finalmente avere un modello decisionale generale da applicare alle decisioni nel software odierno?

Beh, non praticamente. Gli LLM, nonostante la loro incredibile potenza, sono relativamente lenti e costosi. Troppo lenti e troppo costosi per essere usati nella maggior parte dei tipi di applicazioni in cui il software viene impiegato.

Se solo avessimo un modello capace di prendere decisioni in un’ampia gamma di domini di conoscenza generale, facendolo velocemente ed economicamente…

Presentazione di Jev, un classificatore che generalizza

Jev è una nuova classe di modello ottimizzata per prendere decisioni piuttosto che per generare testo.

Jev mantiene la proprietà di generalizzare tipica di un LLM, pur essendo relativamente veloce ed economico come un classificatore. Si sostiene che Jev sia 20-200 volte più veloce e 40-400 volte più economico rispetto agli LLM comparabili.

Questo risultato si ottiene perché Jev non restituisce la risposta token per token come un LLM; restituisce semplicemente una decisione.

Ed è per questo che gli ingegneri ne sono così entusiasti. Non è che Jev rappresenti un livello di intelligenza mai visto prima; è che rappresenta un livello di intelligenza mai visto prima che opera a questa velocità e a questo costo.

Non puoi chattare con Jev. Non è un chatbot. Jev si aspetta tre cose come input:

• La domanda a cui vuoi rispondere
• L’insieme delle possibili risposte a quella domanda
• Il contesto necessario per rispondere alla domanda (Jev lo chiama “state”)

E Jev ti fornirà quindi quanto segue come output:

• La risposta selezionata
• La probabilità che la risposta sia corretta

Questo è tutto. Niente chiacchiere, solo una decisione.

Jev supporta tre tipi di decisioni:

• Sì/no, ciò che Jev chiama “Noul”: restituisce la probabilità stimata che un’affermazione sia vera
• Scelta: seleziona tra fino a 255 opzioni multiple e fornisce le probabilità che ciascuna sia corretta
• Punteggio: valuta qualcosa su una scala da 2 a 10 livelli

Queste scelte consentono decisioni avanzate in una frazione del tempo e del costo rispetto agli approcci precedenti. Diamo un’occhiata a un esempio per ciascuna.

Il noul (sì/no)

Diciamo che ho aperto un nuovo chiosco di hotdog e voglio esaminare il feedback dei clienti man mano che arriva, così da poter reagire o rispondere di conseguenza.

Per ogni recensione, iniziamo ponendo la semplice domanda se la recensione sia una lamentela sul cibo. L’input per Jev potrebbe assomigliare a questo.

1{
2  "model": "jev-latest",
3  "state": "Aspettato venti minuti, ma l'hotdog valeva la pena. Tornerei se la coda fosse più corta.",
4  "questions": {
5    "food_complaint": {
6      "type": "noul",
7      "instructions": "Questa recensione esprime insoddisfazione per il cibo in sé?",
8      "criteria": {
9        "true": "Si lamenta del gusto, della temperatura o della qualità del cibo.",
10        "false": "Non si lamenta del cibo. Le lamentele riguardano solo code o servizio."
11      }
12    }
13  }
14}

Puoi vedere che abbiamo definito la domanda a cui vogliamo rispondere (le "instructions"), i criteri per scegliere sì o no e lo stato necessario affinché Jev prenda una decisione accurata.

Quindi diamo la domanda precedente a Jev. Jev produce quindi il seguente output.

1{
2  "answers": {
3    "food_complaint": {
4      "type": "noul",
5      "noul": 0.04
6    }
7  }
8}

Jev determina che questo particolare feedback ha solo il 4% di probabilità di essere una lamentela sul cibo. Quindi potremmo classificare questa recensione come priorità inferiore e seguirla quando avremo tempo.

Scelta

Comprendiamo meglio ogni elemento di feedback chiedendo a Jev di categorizzarlo. Ecco come potrebbe apparire la nostra richiesta a Jev.

1{
2  "model": "jev-latest",
3  "state": "Aspettato venti minuti, ma l'hotdog valeva la pena. Tornerei se la coda fosse più corta.",
4  "questions": {
5    "main_topic": {
6      "type": "choice",
7      "instructions": "Qual è l'argomento principale di questa recensione? Seleziona l'opzione che cattura meglio il suo focus primario.",
8      "criteria": {
9        "queue": "La lunghezza della coda o il tempo di attesa sono il focus principale.",
10        "food": "Il gusto, la temperatura o la qualità del cibo sono il focus principale.",
11        "service": "La cordialità del personale, la disponibilità o il modo in cui hanno gestito l'ordine sono il focus principale. I commenti relativi solo al tempo di attesa rientrano sotto 'coda'.",
12        "other": "Il focus principale riguarda qualcosa di diverso dal cibo, dal tempo di attesa o dal servizio del personale."
13      }
14    }
15  }
16}

Abbiamo definito ogni scelta che Jev può fare con una descrizione di quando usarla (i "criteria"). Jev restituisce quanto segue.

1{
2  "answers": {
3    "main_topic": {
4      "type": "choice",
5      "choice": "queue",
6      "probabilities": {
7        "queue": 0.80,
8        "food": 0.15,
9        "service": 0.03,
10        "other": 0.02
11      },
12      "confidence": 0.60
13    }
14  }
15}

Ok, Jev ha scelto “queue” (coda) come risposta. Puoi anche notare che assegna probabilità a ciascuna delle scelte.

Punteggio

Ora facciamo valutare a Jev quanto il cliente è soddisfatto dell’esperienza complessiva presso il nostro chiosco di hotdog, su cinque livelli definiti.

1{
2  "model": "jev-latest",
3  "state": "Aspettato venti minuti, ma l'hotdog valeva la pena. Tornerei se la coda fosse più corta.",
4  "questions": {
5    "overall_satisfaction": {
6      "type": "score",
7      "instructions": "Quanto è soddisfatto questo cliente della sua esperienza complessiva? Considera sia i commenti positivi che quelli negativi.",
8      "criteria": [
9        "Molto insoddisfatto: fortemente negativo riguardo all'esperienza complessiva.",
10        "Insoddisfatto: prevalentemente negativo, nonostante eventuali aspetti positivi.",
11        "Misto: aspetti positivi e negativi significativi, senza che nessuno dei due domini chiaramente.",
12        "Soddisfatto: prevalentemente positivo, nonostante alcune lamentele.",
13        "Molto soddisfatto: fortemente positivo, senza lamentele significative."
14      ]
15    }
16  }
17}

Ancora una volta, forniamo una domanda chiara, un insieme di possibili risposte e lo stato. Jev restituisce quanto segue.

1{
2  "answers": {
3    "overall_satisfaction": {
4      "type": "score",
5      "score": 2.1,
6      "probabilities": {
7        "0": 0.05,
8        "1": 0.15,
9        "2": 0.50,
10        "3": 0.25,
11        "4": 0.05
12      }
13    }
14  }
15}

2.1 su 4, c’è margine di miglioramento.

La magia di Jev sta nella sua capacità di prendere queste decisioni molto più velocemente ed economicamente rispetto a un LLM. Ecco un confronto affiancato per l’esame di 60 elementi di feedback lasciati per il nostro chiosco di hotdog. A sinistra c’è Jev, a destra un LLM (gpt-5.6 Luna).

Il vantaggio di Jev in termini di velocità e costi abbassa la barriera per prendere decisioni tramite software.

Applicare Jev

Ovunque nel tuo prodotto una decisione possa migliorare il risultato per un utente, considera l’applicazione di Jev. Ecco alcuni esempi.

Usa Sì/No ovunque sapere se qualcosa è vero o falso ti consente di modificare l’azione intrapresa.

• Il messaggio di questo cliente suggerisce che sta per annullare l’abbonamento?
• Questo aggiornamento del fornitore indica che una spedizione non rispetterà la scadenza?
• La spiegazione di questo studente rivela un malinteso degno di attenzione?
• Questa trascrizione di riunione contiene un impegno a cui nessuno è stato assegnato?
• Il messaggio di questo giocatore suggerisce che è bloccato e potrebbe usare un indizio?

Usa Scelta ovunque selezionare da un insieme di opzioni ti consente di decidere cosa succede dopo.

• Quale team specializzato dovrebbe gestire questa insolita richiesta del cliente?
• Quale tutorial di prodotto corrisponde meglio a ciò che questo utente sta cercando di realizzare?
• Quale personaggio in un gioco dovrebbe rispondere a ciò che il giocatore ha appena detto?
• Quale segmento dell’audioguida del museo risponde meglio alla domanda di un visitatore?
• Quale sostituto disponibile preserva meglio il ruolo di un ingrediente mancante in una ricetta?

Usa Punteggio ovunque giudicare quanto, quanto bene o quanto strettamente qualcosa soddisfa un criterio ti consente di dare priorità o regolare un’azione.

• Quanto è disruptivo questo bug del software nel flusso di lavoro effettivo del cliente?
• Quanto strettamente questo itinerario di viaggio corrisponde all’idea di vacanza ideale di qualcuno?
• Quanto questa intervista al cliente supporta una particolare ipotesi di prodotto?
• Quanto il dialogo di questa scena si discosta dalla voce consolidata del personaggio?
• Quanto rivelatore sarebbe questo indizio di gioco, dato ciò che il giocatore sa già?

È ora di costruire con Jev

Jev ha aperto un mondo di nuove possibilità nei tipi di software ed esperienze che possiamo creare per gli utenti.

Ora che sai cos’è Jev e come funziona, come intendi applicarlo ai prodotti che stai costruendo?