Jev explicado para principiantes

Si has estado navegando por internet los últimos días, probablemente te hayas topado con Jev, un nuevo modelo de IA que ha causado sensación en la comunidad. Jev no es un LLM tradicional. Está diseñado para tomar decisiones, no para generar texto. Después de profundizar en Jev durante estos últimos días, creo sinceramente que el entusiasmo está justificado y que existe un enorme potencial aquí para quienes desarrollan productos.

Como ya he mencionado antes, es fundamental que todos aprendamos cómo funciona realmente la tecnología detrás de la IA, incluso aquellos con roles no técnicos. Entender cómo opera un sistema agéntico te permite aplicar esta tecnología de manera consciente a tus propios productos.

Varias personas me han contactado explicando que han leído todo lo disponible sobre Jev y aún así no entienden qué es exactamente. Así que este artículo es para ellos. Es una guía sobre Jev para los que no son expertos en la materia. Si todo lo demás que has leído sobre Jev te ha dejado más preguntas que respuestas, este artículo será diferente. Al terminar, tendrás una comprensión básica de qué es Jev, en qué se diferencia de un LLM y cómo puedes aplicarlo a los productos que construyes.

La importancia de las decisiones en el software

El software está lleno de decisiones. ¿Este mensaje del cliente requiere atención urgente? ¿Es este pago fraudulento? ¿Debemos mostrar la página en inglés o en francés?

Un producto podría necesitar tomar este tipo de decisiones millones de veces al día.

Pero la complejidad de las decisiones que los ordenadores pueden tomar es limitada. Las preguntas anteriores pueden responderse con reglas simples. Por ejemplo, podríamos determinar si mostrar la página en inglés o en francés basándonos en la configuración de idioma del usuario o quizás en su dirección IP. Pero no todas las preguntas son tan sencillas.

Tomemos, por ejemplo, una foto de un perrito caliente (hotdog). Ningún conjunto de reglas simples permitirá que un ordenador identifique si mi foto contiene realmente un hotdog.

Así que los científicos de la informática idearon un nuevo método para que los ordenadores tomen decisiones más complejas: el aprendizaje automático (machine learning). Resulta que, combinando algunos algoritmos ingeniosos con muchos, muchos ejemplos de fotos que contienen hotdogs, un ordenador puede volverse bastante competente identificando imágenes con hotdogs.

GIF

Nuestro modelo de hotdogs es un tipo de modelo llamado clasificador. Se llama así porque clasifica cosas. Los clasificadores se utilizan extensivamente hoy en día en el software para tomar decisiones complejas.

Pero el problema con los clasificadores es que no generalizan fuera del dominio en el que fueron entrenados. Mi clasificador que puede identificar fotos de hotdogs no podrá ayudarme a identificar transacciones fraudulentas. Y debido a los datos y la experiencia necesarios para entrenar un clasificador, había muchos tipos de problemas que los ordenadores no podían resolver. Eso fue hasta que...

El gran modelo de lenguaje

Cuando OpenAI lanzó ChatGPT en noviembre de 2022, causó sensación en el mundo. La razón de su popularidad no fue su inteligencia pura, sino su capacidad para generalizar.

ChatGPT tenía una comprensión fundamental del mundo que le permitía mantener una conversación sobre hotdogs y transacciones fraudulentas, todo en uno.

Los grandes modelos de lenguaje como ChatGPT, Claude, Grok y Kimi tienen como función principal generar texto. Pero cualquiera que haya usado estos modelos sabe que pueden pensar, razonar y, en última instancia, tomar decisiones. Como ejemplo, así es como un LLM podría tomar una decisión sobre si una imagen dada es un hotdog o no.

GIF

Sí, los grandes modelos de lenguaje son capaces de tomar decisiones. Y pueden hacerlo en una amplia gama de dominios de conocimiento.

¿Podrían ser los LLMs la solución definitiva? ¿Podríamos tener finalmente un modelo general de toma de decisiones para aplicar a las decisiones en el software actual?

Bueno, no en la práctica. Los LLMs, a pesar de su increíble potencia, son relativamente lentos y costosos. Demasiado lentos y caros para usarse en la mayoría de los tipos de aplicaciones donde se emplearía el software.

Si tan solo tuviéramos un modelo que pudiera tomar decisiones en una amplia gama de dominios de conocimiento general y hacerlo rápido y barato...

Presentando Jev, un clasificador que generaliza

Jev es una nueva clase de modelo optimizado para tomar decisiones en lugar de generar texto.

Jev conserva la propiedad de generalizar como un LLM, siendo relativamente rápido y económico como un clasificador. Las afirmaciones indican que Jev es entre 20 y 200 veces más rápido y entre 40 y 400 veces más barato que los LLMs comparables.

Esto se logra porque Jev no devuelve una respuesta token por token como un LLM; simplemente devuelve una decisión.

Y esta es la razón por la que los ingenieros están tan emocionados. No es que Jev sea un nivel de inteligencia nunca antes visto; es que es un nivel de inteligencia nunca antes visto operando a esta velocidad y con este coste.

No puedes chatear con Jev. No es un chatbot. Jev espera tres cosas como entrada:

• La pregunta que quieres responder
• El conjunto de posibles respuestas a esa pregunta
• El contexto necesario para responder la pregunta (Jev llama a esto "estado")

Y Jev te dará entonces lo siguiente como salida:

• La respuesta que ha seleccionado
• La probabilidad de que esa respuesta sea correcta

Eso es todo. Sin chats, solo una decisión.

Jev admite tres tipos de decisiones:

• Sí/no, lo que Jev llama un "Noul": devuelve la probabilidad estimada de que una afirmación sea verdadera
• Elección: selecciona entre hasta 255 opciones de opción múltiple y proporciona probabilidades de que cada una sea correcta
• Puntuación: califica algo en una escala de 2 a 10 niveles

Estas opciones permiten una toma de decisiones avanzada en una fracción del tiempo y costo de los enfoques anteriores. Veamos un ejemplo de cada una.

El noul (sí/no)

Digamos que he abierto un nuevo puesto de hotdogs y quiero revisar la retroalimentación de los clientes a medida que llega para poder reaccionar o responder en consecuencia.

Para cada reseña, primero hagamos la simple pregunta de si la reseña es una queja sobre la comida. La entrada a Jev podría verse algo así.

1{
2  "model": "jev-latest",
3  "state": "Waited twenty minutes, but the hotdog was worth it. Would come back if the queue was shorter.",
4  "questions": {
5    "food_complaint": {
6      "type": "noul",
7      "instructions": "Does this review express dissatisfaction with the food itself?",
8      "criteria": {
9        "true": "Complains about the taste, temperature, or quality of the food.",
10        "false": "Does not complain about the food. Complaints only about queues or service do not count."
11      }
12    }
13  }
14}

Puedes ver que hemos definido la pregunta que queremos responder (las "instructions"), los criterios para cuándo elegir sí o no, y el estado necesario para que Jev tome una decisión precisa.

Así que damos la pregunta anterior a Jev. Jev luego genera la siguiente salida.

1{
2  "answers": {
3    "food_complaint": {
4      "type": "noul",
5      "noul": 0.04
6    }
7  }
8}

Jev determina que esta retroalimentación particular tiene solo un 4% de probabilidad de estar quejándose de la comida. Así que podríamos clasificar esta reseña como de menor prioridad y hacer un seguimiento cuando tengamos tiempo.

Elección

Entendamos un poco más cada elemento de retroalimentación pidiendo a Jev que clasifique la retroalimentación en una categoría. Esto es lo que nuestra solicitud a Jev podría parecer.

1{
2  "model": "jev-latest",
3  "state": "Waited twenty minutes, but the hotdog was worth it. Would come back if the queue was shorter.",
4  "questions": {
5    "main_topic": {
6      "type": "choice",
7      "instructions": "What is the main topic of this review? Select the option that best captures its primary focus.",
8      "criteria": {
9        "queue": "Queue length or waiting time is the main focus.",
10        "food": "The taste, temperature, or quality of the food is the main focus.",
11        "service": "Staff friendliness, helpfulness, or how they handled the order is the main focus. Comments only about waiting time belong under queue.",
12        "other": "The main focus is something other than food, waiting time, or staff service."
13      }
14    }
15  }
16}

Hemos definido cada elección que Jev puede hacer con una descripción de cuándo usar cada una (los "criteria"). Jev devuelve lo siguiente.

1{
2  "answers": {
3    "main_topic": {
4      "type": "choice",
5      "choice": "queue",
6      "probabilities": {
7        "queue": 0.80,
8        "food": 0.15,
9        "service": 0.03,
10        "other": 0.02
11      },
12      "confidence": 0.60
13    }
14  }
15}

Ok, Jev ha elegido "queue" (cola) como la respuesta. También puedes ver que adjunta probabilidades a cada una de las opciones.

Puntuación

Ahora hagamos que Jev califique qué tan satisfecho está el cliente con la experiencia general en nuestro puesto de hotdogs en cinco niveles definidos.

1{
2  "model": "jev-latest",
3  "state": "Waited twenty minutes, but the hotdog was worth it. Would come back if the queue was shorter.",
4  "questions": {
5    "overall_satisfaction": {
6      "type": "score",
7      "instructions": "How satisfied is this customer with their overall experience? Consider both positive and negative comments.",
8      "criteria": [
9        "Very dissatisfied: strongly negative about the experience overall.",
10        "Dissatisfied: mostly negative, despite any positives.",
11        "Mixed: meaningful positives and negatives, with neither clearly dominating.",
12        "Satisfied: mostly positive, despite some complaints.",
13        "Very satisfied: strongly positive, with no meaningful complaints."
14      ]
15    }
16  }
17}

De nuevo, proporcionamos una pregunta clara, un conjunto de posibles respuestas y el estado. Jev devuelve lo siguiente.

1{
2  "answers": {
3    "overall_satisfaction": {
4      "type": "score",
5      "score": 2.1,
6      "probabilities": {
7        "0": 0.05,
8        "1": 0.15,
9        "2": 0.50,
10        "3": 0.25,
11        "4": 0.05
12      }
13    }
14  }
15}

2.1 sobre 4, hay margen de mejora.

La magia de Jev es que es capaz de tomar estas decisiones mucho más rápido y barato que un LLM. Aquí tienes una comparación lado a lado de la revisión de 60 elementos de retroalimentación dejados para nuestro puesto de hotdogs. A la izquierda está Jev, a la derecha un LLM (gpt-5.6 Luna).

La ventaja de velocidad y costo de Jev reduce la barrera para tomar decisiones mediante software.

Aplicando Jev

En cualquier parte de tu producto donde una decisión pueda mejorar el resultado para un usuario, considera aplicar Jev. Aquí hay algunos ejemplos.

Usa Sí/No en cualquier lugar donde saber si algo es verdadero o falso te permita cambiar la acción tomada.

• ¿El mensaje de este cliente sugiere que está a punto de cancelar su suscripción?
• ¿Esta actualización del proveedor sugiere que un envío perderá su fecha límite?
• ¿La explicación de este estudiante revela un malentendido que vale la pena abordar?
• ¿Esta transcripción de reunión contiene un compromiso que nadie ha sido asignado para asumir?
• ¿El mensaje de este jugador sugiere que está atascado y podría necesitar una pista?

Usa Elección en cualquier lugar donde seleccionar de un conjunto de opciones te permita decidir qué sucede después.

• ¿Qué equipo especializado debería manejar esta solicitud inusual del cliente?
• ¿Qué tutorial de producto coincide mejor con lo que este usuario intenta lograr?
• ¿Qué personaje en un juego debería responder a lo que el jugador acaba de decir?
• ¿Qué segmento de la audioguía del museo responde mejor a la pregunta de un visitante?
• ¿Qué sustituto disponible preserva mejor el rol de un ingrediente faltante en una receta?

Usa Puntuación en cualquier lugar donde juzgar cuánto, qué tan bien o qué tan cerca algo cumple un criterio te permita priorizar o ajustar una acción.

• ¿Qué tan disruptivo es este bug de software para el flujo de trabajo real del cliente?
• ¿Qué tan cerca coincide este itinerario de viaje con la idea de alguien de unas buenas vacaciones?
• ¿Cuánto respalda esta entrevista con el cliente una hipótesis de producto particular?
• ¿Qué tanto se desvía el diálogo de esta escena de la voz establecida del personaje?
• Qué reveladora sería esta pista del juego, dado lo que el jugador ya sabe?

Hora de construir con Jev

Jev ha abierto un mundo de nuevas posibilidades en los tipos de software y experiencias que podemos construir para los usuarios.

Ahora que sabes qué es Jev y cómo funciona, ¿cómo vas a aplicar esto a los productos que estás construyendo?