Jev explicado para principiantes

Si has estado navegando por internet los últimos días, probablemente te hayas topado con Jev, un nuevo modelo de IA que ha causado sensación en la comunidad de inteligencia artificial. Jev no es un LLM tradicional. Está diseñado para tomar decisiones, no para escribir texto. Después de profundizar en Jev durante estos últimos días, realmente creo que el hype es real y que existe un enorme potencial aquí para quienes crean productos.

Como ya he dicho antes, es fundamental que todos aprendan cómo funciona realmente la tecnología detrás de la IA, incluso aquellos con roles no técnicos. Entender cómo funciona un sistema agéntico te permite aplicar esta tecnología con criterio a tus propios productos.

Varias personas me han contactado explicando que han leído todo lo disponible sobre Jev y aún así no entienden qué es exactamente. Así que este artículo es para ellos. Es una guía sobre Jev para los usuarios comunes. Si todo lo demás que has leído sobre Jev te ha dejado más preguntas que respuestas, este artículo será diferente. Al final tendrás una comprensión básica de qué es Jev, en qué se diferencia de un LLM y cómo puedes aplicarlo a los productos que construyes.

La importancia de las decisiones en el software

El software está lleno de decisiones. ¿Este mensaje del cliente requiere atención urgente? ¿Este pago es fraudulento? ¿Debemos mostrar la página en inglés o en francés?

Un producto podría necesitar tomar decisiones como estas millones de veces al día.

Pero la complejidad de las decisiones que los ordenadores pueden tomar es limitada. Las preguntas anteriores pueden responderse con reglas simples. Por ejemplo, podríamos determinar si mostrar la página en inglés o francés basándonos en la configuración de idioma del usuario o quizás en su dirección IP. Pero no todas las preguntas son tan simples.

Tomemos, por ejemplo, una foto de un hot dog. Ningún conjunto de reglas simples permitirá que un ordenador identifique si mi foto contiene realmente un hot dog.

Así que los científicos de la computación idearon un nuevo método para que los ordenadores tomaran decisiones más complejas: el aprendizaje automático (machine learning). Resulta que combinando algunos algoritmos ingeniosos con muchos, muchos ejemplos de fotos que contienen hot dogs, un ordenador puede volverse bastante hábil identificando imágenes con hot dogs.

GIF

Nuestro modelo de hot dog es un tipo de modelo llamado clasificador. Se llama así porque clasifica cosas. Los clasificadores se usan extensivamente hoy en el software para tomar decisiones complejas.

Pero el problema con los clasificadores es que no generalizan fuera del dominio en el que fueron entrenados. Mi clasificador que puede identificar fotos de hot dogs no podrá ayudarme a identificar transacciones fraudulentas. Y debido a los datos y la experiencia necesarios para entrenar un clasificador, había muchos tipos de problemas que los ordenadores no podían resolver. Hasta que…

El gran modelo de lenguaje

Cuando OpenAI lanzó ChatGPT en noviembre de 2022, causó sensación en el mundo. La razón de su popularidad no fue su inteligencia absoluta, sino su capacidad para generalizar.

ChatGPT tenía una comprensión fundamental del mundo que le permitía tener una conversación sobre hot dogs y transacciones fraudulentas, todo en uno.

Los grandes modelos de lenguaje como ChatGPT, Claude, Grok y Kimi tienen como función principal generar texto. Pero cualquiera que haya usado estos modelos sabe que pueden pensar, razonar y, en última instancia, tomar decisiones. Como ejemplo, así es como un LLM podría tomar una decisión sobre si una imagen dada es un hot dog o no.

GIF

Sí, los grandes modelos de lenguaje son capaces de tomar decisiones. Y pueden hacerlo en una amplia gama de dominios de conocimiento.

¿Podrían ser los LLMs el santo grial? ¿Podríamos finalmente tener un modelo de toma de decisiones general para aplicar a las decisiones en el software actual?

Bueno, no prácticamente. Los LLMs, a pesar de su increíble potencia, son relativamente lentos y costosos. Demasiado lentos y caros para usarse en la mayoría de los tipos de aplicaciones donde se aplicaría el software.

Si tan solo tuviéramos un modelo que pudiera tomar decisiones en una amplia gama de dominios de conocimiento general y hacerlo rápido y barato…

Presentando Jev, un clasificador que generaliza

Jev es una nueva clase de modelo optimizado para tomar decisiones en lugar de generar texto.

Jev conserva la propiedad de generalizar como un LLM mientras es relativamente rápido y económico como un clasificador. Las afirmaciones dicen que Jev es 20-200x más rápido y 40-400x más barato que los LLMs comparables.

Esto se logra porque Jev no devuelve una respuesta token por token como un LLM; simplemente devuelve una decisión.

Y esta es la razón por la que los ingenieros están tan emocionados con ello. No es que Jev sea un nuevo nivel de inteligencia nunca antes visto; es que es un nivel de inteligencia nunca antes visto operando a esta velocidad y a este costo.

No puedes chatear con Jev. No es un chatbot. Jev espera tres cosas como entrada:

• La pregunta que quieres responder
• El conjunto de posibles respuestas a esa pregunta
• El contexto necesario para responder la pregunta (Jev llama a esto “state” o estado)

Y Jev luego te dará la siguiente salida:

• La respuesta que ha seleccionado
• La probabilidad de que esa respuesta sea correcta

Eso es todo. Sin chats, solo una decisión.

Jev soporta tres tipos de decisiones:

• Sí/no, lo que Jev llama un “Noul”: devuelve la probabilidad estimada de que una afirmación sea verdadera
• Elección: selecciona entre hasta 255 opciones de opción múltiple y proporciona probabilidades de que cada una sea correcta
• Puntuación: califica algo contra una escala de 2 a 10 niveles

Estas opciones permiten una toma de decisiones avanzada en una fracción del tiempo y costo de los enfoques anteriores. Veamos un ejemplo de cada una.

El noul (sí/no)

Digamos que he abierto un nuevo puesto de hot dogs y quiero revisar la retroalimentación de los clientes a medida que llega para poder reaccionar o responder según corresponda.

Para cada reseña, primero hagamos la simple pregunta de si la reseña es una queja sobre la comida. La entrada a Jev podría verse así.

1{
2  "model": "jev-latest",
3  "state": "Esperé veinte minutos, pero el hot dog valió la pena. Volvería si la fila fuera más corta.",
4  "questions": {
5    "food_complaint": {
6      "type": "noul",
7      "instructions": "¿Esta reseña expresa insatisfacción con la comida misma?",
8      "criteria": {
9        "true": "Se queja del sabor, temperatura o calidad de la comida.",
10        "false": "No se queja de la comida. Las quejas solo sobre filas o servicio no cuentan."
11      }
12    }
13  }
14}

Puedes ver que hemos definido la pregunta que queremos responder (las "instructions"), los criterios para cuándo elegir sí o no, y el estado necesario para que Jev tome una decisión precisa.

Así que damos la pregunta anterior a Jev. Jev luego produce la siguiente salida.

1{
2  "answers": {
3    "food_complaint": {
4      "type": "noul",
5      "noul": 0.04
6    }
7  }
8}

Jev determina que esta retroalimentación particular tiene solo un 4% de probabilidad de estar quejándose de la comida. Así que podríamos clasificar esta reseña como de menor prioridad y hacer seguimiento cuando tengamos tiempo.

Elección

Entendamos un poco más cada elemento de retroalimentación pidiendo a Jev que clasifique la retroalimentación en una categoría. Así es como podría verse nuestra solicitud a Jev.

1{
2  "model": "jev-latest",
3  "state": "Esperé veinte minutos, pero el hot dog valió la pena. Volvería si la fila fuera más corta.",
4  "questions": {
5    "main_topic": {
6      "type": "choice",
7      "instructions": "¿Cuál es el tema principal de esta reseña? Selecciona la opción que mejor capture su enfoque principal.",
8      "criteria": {
9        "queue": "La longitud de la fila o el tiempo de espera es el enfoque principal.",
10        "food": "El sabor, temperatura o calidad de la comida es el enfoque principal.",
11        "service": "La amabilidad del personal, su ayuda o cómo manejaron el pedido es el enfoque principal. Los comentarios solo sobre el tiempo de espera pertenecen a 'fila'.",
12        "other": "El enfoque principal es algo distinto de la comida, el tiempo de espera o el servicio del personal."
13      }
14    }
15  }
16}

Hemos definido cada elección que Jev puede hacer con una descripción de cuándo usar cada una (los "criteria"). Jev devuelve lo siguiente.

1{
2  "answers": {
3    "main_topic": {
4      "type": "choice",
5      "choice": "queue",
6      "probabilities": {
7        "queue": 0.80,
8        "food": 0.15,
9        "service": 0.03,
10        "other": 0.02
11      },
12      "confidence": 0.60
13    }
14  }
15}

Ok, Jev ha elegido “fila” como la respuesta. También puedes ver que adjunta probabilidades a cada una de las opciones.

Puntuación

Ahora pidamos a Jev que califique qué tan satisfecho está el cliente con la experiencia general en nuestro puesto de hot dogs a través de cinco niveles definidos.

1{
2  "model": "jev-latest",
3  "state": "Esperé veinte minutos, pero el hot dog valió la pena. Volvería si la fila fuera más corta.",
4  "questions": {
5    "overall_satisfaction": {
6      "type": "score",
7      "instructions": "¿Qué tan satisfecho está este cliente con su experiencia general? Considera tanto los comentarios positivos como los negativos.",
8      "criteria": [
9        "Muy insatisfecho: fuertemente negativo sobre la experiencia en general.",
10        "Insatisfecho: mayormente negativo, a pesar de cualquier aspecto positivo.",
11        "Mixto: aspectos positivos y negativos significativos, sin que ninguno domine claramente.",
12        "Satisfecho: mayormente positivo, a pesar de algunas quejas.",
13        "Muy satisfecho: fuertemente positivo, sin quejas significativas."
14      ]
15    }
16  }
17}

Nuevamente, proporcionamos una pregunta clara, un conjunto de posibles respuestas y el estado. Jev devuelve lo siguiente.

1{
2  "answers": {
3    "overall_satisfaction": {
4      "type": "score",
5      "score": 2.1,
6      "probabilities": {
7        "0": 0.05,
8        "1": 0.15,
9        "2": 0.50,
10        "3": 0.25,
11        "4": 0.05
12      }
13    }
14  }
15}

2.1 de 4, hay margen de mejora.

La magia de Jev es que es capaz de tomar estas decisiones mucho más rápido y barato que un LLM. Aquí tienes una comparación lado a lado de revisar 60 elementos de retroalimentación que han sido dejados para nuestro puesto de hot dogs. A la izquierda está Jev, a la derecha un LLM (gpt-5.6 Luna).

La ventaja de velocidad y costo de Jev reduce la barrera para tomar decisiones con software.

Aplicando Jev

En cualquier parte de tu producto donde una decisión pueda mejorar un resultado para un usuario, considera aplicar Jev. Aquí hay algunos ejemplos.

Usa Sí/No en cualquier lugar donde saber si algo es verdadero o falso te permita cambiar la acción tomada.

• ¿El mensaje de este cliente sugiere que está a punto de cancelar su suscripción?
• ¿La actualización de este proveedor sugiere que un envío perderá su fecha límite?
• ¿La explicación de este estudiante revela un malentendido que vale la pena abordar?
• ¿La transcripción de esta reunión contiene un compromiso que nadie ha asumido como propio?
• ¿El mensaje de este jugador sugiere que está atascado y podría necesitar una pista?

Usa Elección en cualquier lugar donde seleccionar de un conjunto de opciones te permita decidir qué sucede después.

• ¿Qué equipo especializado debería manejar esta solicitud inusual del cliente?
• ¿Qué tutorial de producto coincide mejor con lo que este usuario intenta lograr?
• ¿Qué personaje en un juego debería responder a lo que el jugador acaba de decir?
• ¿Qué segmento de la audioguía del museo responde mejor a la pregunta de un visitante?
• ¿Qué sustituto disponible preserva mejor el rol de un ingrediente faltante en una receta?

Usa Puntuación en cualquier lugar donde juzgar cuánto, qué tan bien o qué tan cerca algo cumple un criterio te permita priorizar o ajustar una acción.

• ¿Qué tan disruptivo es este bug de software para el flujo de trabajo real del cliente?
• ¿Qué tan cerca coincide este itinerario de viaje con la idea de alguien de unas buenas vacaciones?
• ¿Cuánto respalda esta entrevista con el cliente una hipótesis particular del producto?
• ¿Qué tan lejos se desvía el diálogo de esta escena de la voz establecida del personaje?
• Qué reveladora sería esta pista del juego dado lo que el jugador ya sabe?

Hora de construir con Jev

Jev ha abierto un mundo de nuevas posibilidades en los tipos de software y experiencias que podemos construir para los usuarios.

Ahora que sabes qué es Jev y cómo funciona, ¿cómo vas a aplicar esto a los productos que estás construyendo?