Jev Explicado para Leigos

Se você tem passado um tempo na internet nos últimos dias, provavelmente já ouviu falar do Jev, um novo modelo de IA que está causando furor na comunidade. O Jev não é um LLM tradicional. Ele foi criado para tomar decisões, não para escrever textos. Depois de me aprofundar no Jev nos últimos dias, acredito genuinamente que o hype é real e há um enorme potencial aqui para criadores de produtos.

Como eu já disse anteriormente, é fundamental que todos entendam como a tecnologia por trás da IA realmente funciona, mesmo aqueles em cargos não técnicos. Compreender como um sistema agêntico funciona permite aplicar a tecnologia com discernimento aos seus próprios produtos.

Recebi mensagens de várias pessoas explicando que leram tudo o que existe sobre o Jev e ainda assim não entendem o que ele realmente é. Então, este artigo é para elas. É um guia sobre o Jev para quem não é especialista. Se tudo o que você leu até agora sobre o Jev deixou mais dúvidas do que respostas, este artigo será diferente. Ao final, você terá uma compreensão básica do que é o Jev, como ele difere de um LLM e como aplicá-lo aos produtos que você desenvolve.

A importância das decisões no software

O software é cheio de decisões. Esta mensagem do cliente requer atenção urgente? Este pagamento é fraudulento? Devemos renderizar a página em inglês ou francês?

Um produto pode precisar tomar decisões como essa milhões de vezes por dia.

Mas a complexidade das decisões que os computadores conseguem tomar é limitada. As perguntas acima podem ser respondidas com regras simples. Por exemplo, poderíamos determinar se devemos renderizar a página em inglês ou francês com base na configuração de idioma do usuário ou talvez no seu endereço IP. Mas nem todas as perguntas são tão simples.

Pense, por exemplo, em uma foto de um cachorro-quente. Nenhum conjunto de regras simples permitirá que um computador identifique se minha foto contém, de fato, um cachorro-quente.

Então, cientistas da computação desenvolveram um novo método para que os computadores tomassem decisões mais complexas: aprendizado de máquina (machine learning). Descobriu-se que, combinando alguns algoritmos inteligentes com muitos e muitos exemplos de fotos contendo cachorros-quentes, um computador pode, de fato, tornar-se bastante proficiente em identificar fotos com cachorros-quentes.

GIF

Nosso modelo de cachorro-quente é um tipo de modelo chamado classificador. Ele recebe esse nome porque classifica coisas. Classificadores são amplamente utilizados hoje em software para tomar decisões complexas.

Mas o problema com os classificadores é que eles não generalizam fora do domínio em que foram treinados. Meu classificador que consegue identificar fotos de cachorros-quentes não será capaz de me ajudar a identificar transações fraudulentas. E devido aos dados e à expertise necessários para treinar um classificador, havia muitos tipos de problemas que os computadores não conseguiam resolver. Até que...

O grande modelo de linguagem

Quando a OpenAI lançou o ChatGPT em novembro de 2022, ele conquistou o mundo. A razão pela qual se tornou tão popular não foi sua inteligência bruta, mas sim sua capacidade de generalização.

O ChatGPT tinha uma compreensão fundamental do mundo que significava que podia ter uma conversa sobre cachorros-quentes e transações fraudulentas, tudo ao mesmo tempo.

Grandes modelos de linguagem como ChatGPT, Claude, Grok e Kimi têm a função primária de gerar texto. Mas qualquer pessoa que tenha usado esses modelos sabe que eles podem pensar, raciocinar e, em última análise, tomar decisões. Como exemplo, veja como um LLM poderia tomar uma decisão sobre se uma determinada imagem é um cachorro-quente ou não.

GIF

Sim, grandes modelos de linguagem são capazes de tomar decisões. E podem tomar decisões em uma ampla gama de domínios de conhecimento.

Os LLMs poderiam ser o Santo Graal? Poderíamos finalmente ter um modelo geral de tomada de decisão para aplicar às decisões em software hoje?

Bem, não na prática. Os LLMs, apesar de todo o seu poder incrível, são relativamente lentos e caros. Lentos e caros demais para serem usados na maioria dos tipos de aplicações onde o software seria aplicado.

Se apenas tivéssemos um modelo que pudesse tomar decisões em uma ampla gama de domínios de conhecimento geral e fizesse isso rápido e barato...

Apresentando o Jev, um classificador que generaliza

O Jev é uma nova classe de modelo otimizada para tomar decisões, em vez de gerar texto.

O Jev mantém a propriedade de generalizar como um LLM, sendo relativamente rápido e barato como um classificador. As afirmações são de que o Jev é 20-200x mais rápido e 40-400x mais barato do que LLMs comparáveis.

Isso é alcançado porque o Jev não retorna uma resposta token por token como um LLM; ele simplesmente retorna uma decisão.

E é por isso que os engenheiros estão tão empolgados com ele. Não é que o Jev seja um nível de inteligência nunca antes visto; é que é um nível de inteligência nunca antes visto operando tão rápido e tão barato.

Você não pode conversar com o Jev. Ele não é um chatbot. O Jev espera três coisas como entrada:

• A pergunta que você quer responder
• O conjunto de possíveis respostas para essa pergunta
• O contexto necessário para responder à pergunta (o Jev chama isso de "state")

E o Jev então fornecerá o seguinte como saída:

• A resposta que ele selecionou
• A probabilidade de que a resposta esteja correta

É isso. Sem conversas, apenas uma decisão.

O Jev suporta três tipos de decisões:

• Sim/não, o que o Jev chama de “Noul”: retorna a probabilidade estimada de que uma afirmação seja verdadeira
• Escolha: seleciona entre até 255 opções de múltipla escolha e fornece probabilidades de que cada uma esteja correta
• Pontuação: avalia algo contra uma escala de 2 a 10 níveis

Essas escolhas permitem tomadas de decisão avançadas em uma fração do tempo e custo das abordagens anteriores. Vamos dar uma olhada em um exemplo de cada.

O noul (sim/não)

Digamos que eu abri um novo quiosque de cachorro-quente e quero analisar o feedback dos clientes conforme ele chega, para que eu possa reagir ou responder adequadamente.

Para cada avaliação, vamos primeiro fazer a simples pergunta de se a avaliação é uma reclamação sobre a comida. A entrada para o Jev pode parecer algo assim.

1{
2  "model": "jev-latest",
3  "state": "Esperei vinte minutos, mas o cachorro-quente valeu a pena. Voltaria se a fila fosse menor.",
4  "questions": {
5    "food_complaint": {
6      "type": "noul",
7      "instructions": "Esta avaliação expressa insatisfação com a comida em si?",
8      "criteria": {
9        "true": "Reclama do sabor, temperatura ou qualidade da comida.",
10        "false": "Não reclama da comida. Reclamações apenas sobre filas ou atendimento não contam."
11      }
12    }
13  }
14}

Você pode ver que definimos a pergunta que queremos responder (as "instructions"), os critérios para quando escolher sim ou não, e o estado necessário para o Jev tomar uma decisão precisa.

Então, damos a pergunta acima ao Jev. O Jev então produz a seguinte saída.

1{
2  "answers": {
3    "food_complaint": {
4      "type": "noul",
5      "noul": 0.04
6    }
7  }
8}

O Jev determina que este feedback específico tem apenas 4% de probabilidade de ser uma reclamação sobre a comida. Portanto, podemos classificar esta avaliação como prioridade mais baixa e segui-la quando tivermos tempo.

Escolha

Vamos entender cada item de feedback um pouco mais pedindo ao Jev para colocar o feedback em uma categoria. Aqui está como nossa solicitação ao Jev pode parecer.

1{
2  "model": "jev-latest",
3  "state": "Esperei vinte minutos, mas o cachorro-quente valeu a pena. Voltaria se a fila fosse menor.",
4  "questions": {
5    "main_topic": {
6      "type": "choice",
7      "instructions": "Qual é o tópico principal desta avaliação? Selecione a opção que melhor captura seu foco principal.",
8      "criteria": {
9        "queue": "O tamanho da fila ou tempo de espera é o foco principal.",
10        "food": "O sabor, temperatura ou qualidade da comida é o foco principal.",
11        "service": "A amigabilidade da equipe, prestatividade ou como lidaram com o pedido é o foco principal. Comentários apenas sobre tempo de espera pertencem a queue.",
12        "other": "O foco principal é algo diferente de comida, tempo de espera ou atendimento da equipe."
13      }
14    }
15  }
16}

Definimos cada escolha que o Jev pode fazer com uma descrição de quando usar cada uma (os "criteria"). O Jev retorna o seguinte.

1{
2  "answers": {
3    "main_topic": {
4      "type": "choice",
5      "choice": "queue",
6      "probabilities": {
7        "queue": 0.80,
8        "food": 0.15,
9        "service": 0.03,
10        "other": 0.02
11      },
12      "confidence": 0.60
13    }
14  }
15}

Ok, o Jev escolheu “queue” como a resposta. Você também pode ver que ele anexa probabilidades a cada uma das escolhas.

Pontuação

Agora vamos pedir ao Jev para avaliar o quão satisfeito o cliente está com a experiência geral em nosso quiosque de cachorro-quente através de cinco níveis definidos.

1{
2  "model": "jev-latest",
3  "state": "Esperei vinte minutos, mas o cachorro-quente valeu a pena. Voltaria se a fila fosse menor.",
4  "questions": {
5    "overall_satisfaction": {
6      "type": "score",
7      "instructions": "Quão satisfeito este cliente está com sua experiência geral? Considere tanto comentários positivos quanto negativos.",
8      "criteria": [
9        "Muito insatisfeito: fortemente negativo sobre a experiência geral.",
10        "Insatisfeito: principalmente negativo, apesar de quaisquer pontos positivos.",
11        "Misto: pontos positivos e negativos significativos, sem nenhum dominando claramente.",
12        "Satisfeito: principalmente positivo, apesar de algumas reclamações.",
13        "Muito satisfeito: fortemente positivo, sem reclamações significativas."
14      ]
15    }
16  }
17}

Novamente, fornecemos uma pergunta clara, conjunto de possíveis respostas e estado. O Jev retorna o seguinte.

1{
2  "answers": {
3    "overall_satisfaction": {
4      "type": "score",
5      "score": 2.1,
6      "probabilities": {
7        "0": 0.05,
8        "1": 0.15,
9        "2": 0.50,
10        "3": 0.25,
11        "4": 0.05
12      }
13    }
14  }
15}

2.1 de 4, há espaço para melhoria.

A mágica do Jev é que ele consegue tomar essas decisões muito mais rápido e barato do que um LLM. Aqui está uma comparação lado a lado da revisão de 60 itens de feedback deixados para nosso quiosque de cachorro-quente. À esquerda está o Jev, à direita está um LLM (gpt-5.6 Luna).

A vantagem de velocidade e custo do Jev reduz a barreira para tomar decisões com software.

Aplicando o Jev

Em qualquer lugar do seu produto onde uma decisão possa ser tomada para melhorar um resultado para um usuário, considere aplicar o Jev. Aqui estão alguns exemplos.

Use Sim/Não em qualquer lugar onde saber se algo é verdadeiro ou falso permita que você altere a ação tomada.

• A mensagem deste cliente sugere que ele está prestes a cancelar sua assinatura?
• Esta atualização do fornecedor sugere que um envio perderá seu prazo?
• A explicação deste estudante revela um equívoco digno de atenção?
• Esta transcrição de reunião contém um compromisso que ninguém foi designado para assumir?
• A mensagem deste jogador sugere que ele está preso e poderia usar uma dica?

Use Escolha em qualquer lugar onde selecionar de um conjunto de opções permita que você decida o que acontece em seguida.

• Qual equipe especializada deve lidar com esta solicitação incomum do cliente?
• Qual tutorial de produto corresponde melhor ao que este usuário está tentando realizar?
• Qual personagem em um jogo deve responder ao que o jogador acabou de dizer?
• Qual segmento do audioguia do museu melhor responde à pergunta de um visitante?
• Qual substituto disponível preserva melhor o papel de um ingrediente faltante em uma receita?

Use Pontuação em qualquer lugar onde julgar quanto, quão bem ou quão perto algo atende a um critério permita que você priorize ou ajuste uma ação.

• Quão disruptivo é este bug de software para o fluxo de trabalho real do cliente?
• Quão perto este itinerário de viagem corresponde à ideia de alguém sobre um bom feriado?
• Quanto esta entrevista com o cliente apoia uma hipótese particular de produto?
• Quão longe o diálogo desta cena desvia da voz estabelecida do personagem?
• Quão reveladora seria esta dica do jogo, dado o que o jogador já sabe?

Hora de construir com o Jev

O Jev abriu um mundo de novas possibilidades nos tipos de software e experiências que podemos construir para usuários.

Agora que você sabe o que é o Jev e como ele funciona, como você vai aplicar isso aos produtos que está construindo?