Como usar o modelo Jev para tool calling

O modelo Jev promete decisões tipadas em milissegundos. Veja como ele se comporta como camada de reasoning em fluxos agênticos, com números reais.

O que é o modelo Jev e por que ele existe

O Jev é um modelo de decisão que só produz saída estruturada e tipada em JSON, lançado em setembro de 2026 pela TypeSafe, startup fundada por um dos co-inventores do ChatGPT, o assistente da OpenAI. A empresa o apresenta como o primeiro representante de uma nova categoria, os modelos System 1.

A tese da TypeSafe é direta: usar um LLM de fronteira para decidir qual ferramenta chamar, classificar um e-mail ou validar uma condição é desperdício. O Jev recebe um contexto e uma estrutura tipada no input e devolve apenas o dado preenchido. Ele não serve como chat nem como gerador de código, e isso é proposital.

O pós-treinamento é o que separa o produto de um classificador comum. Enquanto LLMs tradicionais usam RLHF ou aprendizado por recompensas verificáveis, a TypeSafe aplica o RLCD (reinforcement learning for calibrated decisions), focado em calibrar probabilidades de decisão em vez de gerar texto fluido.

Jev, classificador zero-shot ou LLM: qual a diferença?

A comparação que domina a discussão desde o lançamento tem três lados, e cada um resolve um problema diferente. Entender onde eles se cruzam evita escolher a ferramenta errada para o seu fluxo.

Abordagem por abordagem: quando cada uma faz sentido

O classificador tradicional precisa de treinamento específico para cada domínio. O classificador zero-shot dispensa esse treinamento, mas fica limitado ao que absorveu no pré-treinamento. Por isso muita gente usa LLMs como classificador: o contexto é amplo, porém a resposta custa segundos e tokens caros. O modelo Jev ocupa o meio do caminho com uma condição que os outros não oferecem juntas: contexto amplo e resposta em milissegundos.

Abordagem	Resposta	Latência típica	Melhor uso	Limitação
Classificador treinado	Categoria fixa	Baixa	Domínio estável e conhecido	Precisa de dataset próprio
Classificador zero-shot	Categoria do pré-treino	Baixa	Tarefas genéricas simples	Limitado ao que aprendeu
LLM como classificador	Texto ou JSON	Segundos a minutos	Contexto amplo e ambíguo	Caro e lento para tempo real
Modelo Jev	JSON tipado	70 a 500 ms (anúncio)	Decisões e roteamento em agentes	Não gera texto; depende de contexto bem estruturado

A conclusão prática: se você precisa de prosa, código ou raciocínio longo, o LLM continua sendo a escolha. Se o seu gargalo é decidir rápido e barato entre opções previamente tipadas, aí o Jev entra.

Preço e latência: o que a TypeSafe promete

Os números comerciais são o argumento mais forte do lançamento. Segundo o anúncio da TypeSafe, o input custa US$ 0,042 por milhão de tokens e o output é gratuito, já que a resposta é um JSON mínimo. Em LLMs tradicionais, os tokens de output são justamente a parcela mais cara da conta.

Na latência, a promessa é de 70 a 500 milissegundos de resposta end-to-end com o TypeSafe, contra 3 segundos ou mais em modelos de fronteira. Isso significa, no papel, respostas de 40 a 200 vezes mais rápidas para tarefas de decisão. São números do fabricante, reportados no vídeo, e não uma medição independente.

Outra afirmação chamativa é que o Jev 'não alucina'. O teste prático mostra que a frase precisa de contexto: o modelo não inventa texto porque sempre responde com estrutura tipada. Mas ele pode devolver probabilidades erradas ou escolher a ferramenta errada, e isso é uma forma de falha que o seu eval precisa capturar.

O teste de tool calling com evals na Vercel

O autor do vídeo montou um experimento para validar uma tese: delegar a seleção de tool calling ao Jev melhora custo, velocidade e acurácia do agente. O framework usado foi o de desenvolvimento de agentes da Vercel, com evals etapa por etapa para acompanhar cada chamada.

A lista de ferramentas foi propositalmente cheia de nomes parecidos, sem treinamento prévio do modelo, para forçar o raciocínio de escolha. Os prompts variaram em complexidade: confirmação de reunião com lembrete, voo para São Paulo com agenda, gastos por restaurante com tarefa, viagem completa com seguro e hotel, e reunião com convites e e-mail agendado.

Como o experimento foi conduzido

O desenho do teste separou dois caminhos para o mesmo conjunto de tarefas, e você pode reproduzir os dois a partir do repositório citado no vídeo.

1. Caminho com LLM sozinho: o próprio modelo faz o reasoning e decide qual ferramenta chamar, com reasoning ativado ou desativado quando o fornecedor permite.
2. Caminho com Jev como camada de reasoning: o Jev classifica a tarefa e indica a tool call, e o LLM executa o restante do fluxo.

Entre os modelos avaliados estavam o Gemini 3.8 Flash, o DeepSeek V4.1 Flash, o GPT-6 Astra, o Fable 5.1, o Claude Opus 5 e o Qwen 3.8 27B, este último disponível pela Alibaba Cloud. Modelos de 27 bilhões de parâmetros foram incluídos de propósito: se a tese valesse, até modelos pequenos subiriam de nível com o Jev na frente.

Resultados: economia de tokens, custo e os pontos cegos

Os resultados gerais sustentam a tese do autor, com exceções que o eval revelou. O campeão de eficiência foi o Gemini 3.8 Flash usando o Jev, que sem ele ficou quase nas últimas posições. Todos os modelos testados mostraram redução de custo quando usaram o Jev como camada de decisão, entregando performance semelhante.

Em tokens, a queda foi drástica: o reasoning de seleção de ferramentas consumia uma fatia enorme de input tokens, e o número de tokens por tarefa despencou com o Jev. O autor relata economia de até 10 vezes em consumo com Astra, Fable e Opus. Rodar todos os benchmarks custou 8 centavos de dólar em tokens do Jev, valor irrelevante na conta final.

Há dois pontos cegos que você precisa conhecer antes de adotar a estratégia. Primeiro, os modelos com Jev precisaram de um passo a mais por tarefa em média. Segundo, em alguns casos eles chamaram uma ferramenta errada em algum momento do fluxo, uma perda real de eficiência que o custo economizado pode compensar, mas só se você medir.

Em tarefas complexas, o Jev como classificador não completou o fluxo de ponta a ponta em pelo menos um cenário. No caso observado, ele pulou direto para buscar um horário livre sem antes localizar o contato. Com contexto melhor estruturado, esse tipo de falha tende a diminuir, mas o eval foi o que identificou o problema.

Vale usar o Jev no seu projeto de agentes?

Vale, em três situações concretas. Uma: quando seu agente gasta segundos e muitos tokens apenas para decidir qual ferramenta chamar. Duas: quando você usa um LLM como classificador em tempo real e a latência atrapalha, caso comum em IoT e triagem de mensagens. Três: quando o custo de output tokens pesa na conta mensal.

Não vale quando a tarefa exige geração de texto, raciocínio longo ou julgamento ambíguo. O Jev não substitui o LLM do seu agente; ele tira dele a parte mecânica de decisão. Pense nele como um roteador calibrado, não como um cérebro.

A recomendação final do vídeo vale como regra geral de engenharia de agentes: olhe o caminho, não só o input e o output. Um agente que entrega o resultado certo pelo caminho errado é um problema esperando custo e latência extra. Faça evals, meça passos, tools e tokens, e decida com dado.

FAQ sobre o modelo Jev

• O modelo Jev é um LLM? Não. Ele é um modelo de decisão da categoria System 1, treinado com RLCD, que só responde em JSON tipado. Ele não conversa, não escreve código e não gera texto livre.

• O Jev realmente não alucina? Ele não inventa texto, porque a saída é sempre tipada. Mas ele pode atribuir probabilidades erradas ou escolher a ferramenta errada, e o teste do vídeo registrou casos assim com contexto mal estruturado.

• Quanto custa usar o Jev? Segundo o anúncio da TypeSafe, o input custa US$ 0,042 por milhão de tokens e o output é gratuito. No benchmark do vídeo, rodar todos os testes custou 8 centavos de dólar em tokens do Jev.

• O Jev substitui o reasoning do meu LLM? Ele pode substituir a etapa de seleção de tool calling, que é onde o teste mostrou ganho de custo e velocidade. Para raciocínio longo e geração de conteúdo, o LLM continua necessário.

• Onde eu vejo o código do teste? O autor indica um repositório público no GitHub, linkado na descrição do vídeo original, com os prompts, os evals e os modelos avaliados para você reproduzir os resultados.

Source video