Jev: o modelo de IA criado para tomar decisões dentro de softwares

A Inteligência Artificial generativa popularizou uma arquitetura relativamente simples: um software envia contexto para um Large Language Model, o modelo processa essas informações e devolve uma resposta em linguagem natural.

Esse modelo funciona muito bem quando o objetivo é escrever, resumir, analisar ou raciocinar sobre informações complexas.

Mas existe outra categoria de problema muito comum em sistemas e automações:

o software não precisa de um texto. Ele precisa de uma decisão.

É exatamente nesse espaço que surge o Jev, modelo desenvolvido pela TypeSafe AI com uma proposta diferente dos LLMs tradicionais.

Em vez de competir diretamente com modelos como GPT, Claude ou Gemini na geração de linguagem, o Jev foi desenvolvido para transformar informações em decisões estruturadas e probabilísticas que possam ser consumidas diretamente por software.

A diferença parece pequena, mas pode representar uma mudança importante na arquitetura de aplicações baseadas em IA.

O problema de usar LLMs para todas as decisões

Imagine um sistema de qualificação automática de leads.

O sistema possui informações como:

• cargo;

• empresa;

• orçamento;

• origem;

• interesse;

• histórico de interações.

Um LLM tradicional poderia receber essas informações junto de uma instrução:

O modelo poderia responder:

Para uma pessoa, essa resposta é perfeitamente compreensível.

Para um software, porém, existe uma etapa adicional: interpretar a resposta e transformá-la novamente em uma decisão.

Idealmente, o sistema precisaria apenas receber algo como:

Essa é justamente a categoria de problema que o Jev procura resolver.

O que é o Jev

O Jev é um modelo desenvolvido pela TypeSafe AI para realizar decisões tipadas e probabilísticas.

Em vez de produzir longas sequências de texto, ele trabalha com estruturas previamente definidas pelo desenvolvedor.

Um sistema poderia definir, por exemplo:

O modelo recebe os dados e calcula probabilidades para as possíveis respostas.

Conceitualmente, poderíamos ter:

O software pode então utilizar essas probabilidades diretamente dentro de sua lógica.

Isso aproxima o modelo muito mais de um motor probabilístico de decisão do que de um chatbot.

System One Models

A TypeSafe utiliza o termo System One Model para descrever essa categoria.

A referência vem da distinção entre dois tipos de processamento cognitivo popularizada na literatura de psicologia comportamental.

O chamado Sistema 1 está associado a decisões rápidas e intuitivas, enquanto o Sistema 2 representa processos deliberativos que demandam mais raciocínio.

A analogia proposta é simples.

Modelos grandes de linguagem são extremamente úteis quando uma tarefa exige análise, geração ou raciocínio mais complexo.

Mas muitas decisões realizadas por softwares são relativamente simples:

Utilizar um modelo generativo grande para todas essas decisões pode adicionar custo, latência e complexidade desnecessários.

O Jev tenta ocupar exatamente essa camada.

A diferença entre gerar e decidir

Podemos simplificar a arquitetura da seguinte maneira:

Com um modelo orientado a decisão:

Isso pode ser particularmente interessante em sistemas que precisam processar milhares ou milhões de pequenas decisões.

Por que existe tanto interesse no Jev

Um dos argumentos apresentados pela TypeSafe é a eficiência.

Como o Jev não precisa gerar grandes sequências de tokens para explicar cada decisão, determinadas tarefas podem ser executadas com latência e custo significativamente menores.

A empresa publicou benchmarks mostrando vantagens expressivas de velocidade e custo em alguns cenários quando comparados ao uso de LLMs tradicionais.

Esses números, entretanto, precisam ser interpretados corretamente.

O Jev é uma tecnologia recente e boa parte dos benchmarks disponíveis neste momento vem da própria empresa responsável pelo modelo.

Portanto, os resultados são interessantes, mas ainda precisam ser confrontados com benchmarks independentes e workloads reais antes de serem tratados como vantagens universais.

O ponto tecnicamente mais relevante não é simplesmente dizer que "Jev é mais rápido que um LLM".

São arquiteturas destinadas a problemas diferentes.

Jev não substitui GPT, Claude ou Gemini

Esse talvez seja o ponto mais importante.

A proposta não é substituir modelos generativos.

É possível imaginar uma arquitetura em que cada tecnologia execute aquilo que faz melhor.

Podemos adicionar ainda uma terceira camada:

Essa arquitetura pode ser muito mais interessante do que simplesmente substituir código tradicional por chamadas indiscriminadas para LLMs.

Um exemplo aplicado ao marketing digital

Considere uma operação que recebe dados diariamente de:

• Google Analytics 4;

• Google Ads;

• Meta Ads;

• Google Search Console;

• CRM;

• plataformas de e-mail marketing.

Em vez de enviar todos esses dados diariamente para um modelo generativo realizar uma análise completa, uma camada de decisão poderia primeiro avaliar situações específicas.

Por exemplo:

Somente determinadas situações seriam encaminhadas para uma análise mais profunda.

O resultado potencial é uma arquitetura de análise muito mais eficiente.

Qualificação de leads

Outro exemplo direto seria um pipeline comercial.

A probabilidade poderia determinar a próxima ação.

> 90%
encaminhar automaticamente

> 90%
encaminhar automaticamente

> 90%
encaminhar automaticamente

Um modelo generativo poderia entrar somente quando fosse necessário interpretar informações mais complexas sobre o lead.

Agentes de IA

Talvez uma das aplicações mais interessantes esteja nas arquiteturas de agentes.

Um agente frequentemente precisa decidir:

Essas decisões são normalmente realizadas pelo próprio LLM.

Uma arquitetura alternativa poderia separar decisão e execução.

Nesse cenário, um modelo especializado em decisões funciona como uma espécie de roteador inteligente dentro do sistema.

A arquitetura de IA pode estar ficando mais especializada

Durante os primeiros anos da IA generativa, uma estratégia comum foi colocar um grande modelo no centro de praticamente toda aplicação.

A evolução das arquiteturas pode seguir um caminho diferente.

Em vez de:

podemos começar a encontrar estruturas como:

Cada componente resolve uma categoria específica de problema.

O Jev é interessante justamente porque representa essa tendência de especialização.

Menos IA também pode significar uma arquitetura melhor

Existe ainda uma consequência importante dessa abordagem.

Nem toda decisão precisa de Inteligência Artificial.

Se uma regra puder ser determinada de forma confiável com código tradicional, provavelmente ela deve continuar sendo código tradicional.

Por exemplo:

Não existe motivo para utilizar um modelo de IA para resolver isso.

Por outro lado:

já envolve interpretação probabilística.

Uma arquitetura madura pode combinar:

em vez de tentar resolver tudo com um único modelo.

O que observar daqui para frente

O Jev ainda é uma tecnologia recente.

Antes de considerar seu uso em ambientes críticos de produção, será importante acompanhar:

• benchmarks independentes;

• precisão em diferentes domínios;

• estabilidade das probabilidades;

• calibração de confiança;

• comportamento com dados fora da distribuição esperada;

• observabilidade;

• integração com stacks existentes;

• custo em workloads reais;

• evolução da infraestrutura e do ecossistema.

Principalmente em sistemas automatizados, uma probabilidade aparentemente alta não significa necessariamente que o modelo esteja corretamente calibrado.

Essa será uma das questões técnicas mais importantes para avaliar.

Conclusão

O aspecto mais interessante do Jev não é ser mais um modelo de Inteligência Artificial.

É questionar uma premissa que se tornou comum desde a popularização dos LLMs:

todo problema envolvendo IA precisa terminar em geração de texto?

Em muitos sistemas, a resposta provavelmente é não.

Às vezes o software precisa apenas decidir.

E uma arquitetura moderna pode utilizar código para regras determinísticas, modelos especializados para decisões probabilísticas, grandes modelos para raciocínio e geração e seres humanos para situações que exigem julgamento.

O Jev ainda precisa provar seu valor em produção e em avaliações independentes.

Mas a ideia por trás dele merece atenção.

Talvez a próxima evolução das aplicações de Inteligência Artificial não seja simplesmente utilizar modelos cada vez maiores.

Pode ser aprender a utilizar modelos diferentes para problemas diferentes.

Fontes

TypeSafe AI
https://typesafe.ai/

Vercel AI Gateway: TypeSafe AI Jev
https://vercel.com/changelog/typesafe-ai-jev-now-available-on-ai-gateway