OpenJev: a alternativa open source gratuita ao Jev AI que roda com Groq de graca

Se voce acompanha o ecossistema de IA, provavelmente ja ouviu falar do Jev AI, o motor de decisoes da TypeSafe que viralizou nas ultimas semanas. O problema: ele e fechado, roda apenas na nuvem da TypeSafe e, fora do periodo gratuito da Vercel AI Gateway (que acaba em 25 de setembro de 2026), custa US$ 0,042 por milhao de tokens de entrada. Nao e caro, mas nao e livre.

Foi ai que a comunidade agiu. Em questao de dias, nasceu o OpenJev: uma reimplementacao open source do contrato de decisao do Jev, construida em TypeScript pela SiliconLabAI, que roda 100% local e aceita qualquer modelo de linguagem como motor de pontuacao, incluindo a API gratuita do Groq.

Neste guia, voce vai entender exatamente como o OpenJev funciona, como instalar e rodar no seu computador, como conectar na API gratuita do Groq para ter latencia de 0,6 segundos sem pagar nada e como ele se compara ao Jev original em arquitetura, velocidade e custo. Tambem vamos cobrir o OpenJevPro, uma vertente em Python ainda mais avancada que ja empata em precisao com o Jev original em benchmarks independentes.

Este conteudo tem carater informativo. O projeto OpenJev ainda nao possui licenca formal (estado de 21 de setembro de 2026), portanto nao o utilize em produtos comerciais ate que uma licenca seja publicada.

O que e o Jev AI e por que ele importa

O Jev AI, lancado pela TypeSafe, e um motor de decisao especializado que implementa o que eles chamam de contrato de decisao System One. Diferente de um chatbot convencional que gera texto livre, o Jev recebe um estado (state) e um conjunto de perguntas (questions) e devolve decisoes probabilisticas estruturadas em tres formatos:

• Choice: escolhe uma entre varias opcoes pre-definidas, com distribuicao de probabilidade por opcao
• Score: atribui uma pontuacao numerica dentro de uma escala, tambem com distribuicao
• Noul: resposta binaria sim/nao com nivel de confianca

O segredo do Jev nao e o contrato em si (que e relativamente simples), mas o modelo treinado com RLCD (Reinforcement Learning from Contrastive Decisions) que roda por tras. Esse modelo especializado entrega decisoes em 70 a 500 milissegundos com calibracao treinada, algo que modelos genericos de chat nao conseguem fazer com a mesma confiabilidade.

O problema e que o Jev e totalmente fechado: pesos privados, API hospedada exclusivamente pela TypeSafe, sem opcao de self-host. Para quem quer soberania sobre seus dados, custo zero ou simplesmente estudar como o sistema funciona por dentro, isso e um bloqueio.

OpenJev: a reimplementacao open source

O OpenJev apareceu no GitHub em 20 de setembro de 2026, criado pela SiliconLabAI, um repositorio TypeScript com cerca de 32 estrelas e 4 forks nas primeiras 24 horas. O conceito e engenhoso na sua simplicidade: em vez de tentar replicar o modelo especializado do Jev (o que e impossivel sem acesso aos pesos), o OpenJev recria o contrato de decisao usando modelos de chat comuns como micro-pontuadores paralelos.

Como funciona a arquitetura

O truque do OpenJev esta no design de amostragem paralela:

1. Voce define um estado (state) com o contexto da decisao, por exemplo: "Cliente reportou cobranca duplicada e pede reembolso imediato"
2. Define perguntas (questions) no formato choice/score/noul
3. Para cada opcao de cada pergunta, o OpenJev dispara uma chamada de API minuscula perguntando ao modelo: "De 0 a 1, qual a probabilidade desta opcao ser a correta?"
4. Todas as chamadas rodam em paralelo via Promise.all
5. Os resultados brutos (logits) passam por uma funcao softmax para virarem uma distribuicao de probabilidade calibrada

O resultado e um JSON estruturado identico ao do Jev original: a escolha (pick), distribuicao de probabilidade por opcao, indice de confianca e metadados de uso e latencia.

POST /api/evaluate
{
  "state": "Cliente reportou cobranca duplicada. Pede reembolso imediato.",
  "questions": {
    "departamento": {
      "type": "choice",
      "criteria": {
        "cobranca": "Pagamentos, reembolsos, faturas",
        "tecnico": "Bugs, erros, acesso"
      },
      "instructions": "Qual departamento deve tratar?"
    },
    "urgencia": {
      "type": "score",
      "criteria": ["Rotina", "Urgente", "Emergencia"],
      "instructions": "Nivel de urgencia?"
    }
  }
}

Na resposta, o OpenJev retorna o departamento "cobranca" com 82% de confianca e urgencia 2.4 de 3, com a distribuicao completa de probabilidades. O exemplo do README mostra 620ms de latencia total para 9 chamadas paralelas usando GPT-4o-mini.

Setup em 3 comandos

Rodar o OpenJev localmente e trivial:

git clone https://github.com/SiliconLabAI/OpenJev.git
cd OpenJev
npm install
npm run dev

Feito isso, o playground abre em localhost:3001 com uma interface onde voce configura modo, modelo, URL base e chave de API. O campo URL base e a chave da liberdade: ele aceita qualquer endpoint compativel com OpenAI, incluindo modelos locais via Ollama, LM Studio ou SGLang.

Groq API: o combustivel gratuito que faz o OpenJev voar

O criador de conteudo Julian Goldie testou o OpenJev com varios backends e descobriu algo crucial: a Groq API, que oferece inferencia gratuita com limite generoso de tokens, reduz a latencia das decisoes de 6 a 13 segundos (usando modelos gratuitos do OpenRouter) para apenas 0,6 segundos. Isso e competitivo com o Jev original, que roda entre 70ms e 500ms em hardware dedicado.

Como obter sua chave da Groq

1. Acesse console.groq.com
2. Crie uma conta ou faca login
3. Va em API Keys no menu lateral
4. Clique em "Create API Key"
5. Copie a chave gerada

A Groq e conhecida por sua infraestrutura de inferencia ultra-rapida baseada em LPUs (Language Processing Units), chips proprietarios otimizados para transformers. O plano gratuito oferece milhoes de tokens por mes, mais que suficiente para prototipar e rodar workloads moderados de decisao.

Por que nao usar OpenRouter

Julian testou primeiro com OpenRouter, que agrega varios modelos gratuitos. O resultado foi frustrante: 6 a 13 segundos por decisao, tornando o sistema inviavel para qualquer caso de uso real. A diferenca esta na arquitetura: o OpenJev dispara multiplas chamadas paralelas minusculas, e a latencia de cada uma e multiplicada pelo overhead de rede e fila. A Groq, com suas LPUs e inferencia otimizada, processa cada micro-chamada em dezenas de milissegundos, enquanto o OpenRouter acumula latencia de modelos hospedados em infraestrutura generica.

Comparativo: Jev original vs OpenJev vs OpenJevPro

A tabela abaixo resume as diferencas entre as tres opcoes disponiveis em 21 de setembro de 2026:

O grande destaque vai para o OpenJevPro, uma implementacao em Python criada por Corel Zhang que vai alem da orquestracao simples. Usando modelos MoE (Mixture of Experts) como Qwen3.6-35B-A3B com decodificacao restrita por gramatica (schema-constrained grammar decoding), o OpenJevPro alcanca 95.5% de precisao no benchmark JevBench v1, tecnicamente empatado com os 96.3% do Jev original dentro do intervalo de confianca de 95%.

A latencia tambem impressiona: 45 a 75 milissegundos no modo SGLang, comparavel aos 25-45ms do Jev. Para edge computing, versoes com Qwen3-4B ou Gemma 4 rodam em menos de 35ms em uma unica GPU de consumo, como uma RTX 3090 ou 4090.

Casos de uso reais

O OpenJev nao e um brinquedo. O contrato de decisao System One resolve problemas concretos que antes exigiam codificacao manual complexa ou NLP tradicional:

Roteamento de tickets de suporte

Voce pode classificar automaticamente tickets de suporte para os departamentos corretos (cobranca, tecnico, vendas, cancelamento) com probabilidades calibradas. Se a confianca for baixa (< 0.7), o ticket vai para triagem manual. Isso reduz o tempo medio de resposta e evita que tickets urgentes fiquem parados na fila errada.

Moderacao de conteudo

Plataformas com conteudo gerado por usuarios podem usar o OpenJev para decidir se um post viola as diretrizes da comunidade, com score de severidade e tipo de violacao. A vantagem sobre classificadores tradicionais e a transparencia: voce ve exatamente qual opcao foi escolhida e com qual nivel de certeza.

Automacao de processos internos

Qualquer fluxo que envolva decisao estruturada se beneficia: aprovacao de reembolsos, classificacao de leads, triagem de curriculos, analise de sentimento com scoring numerico. O OpenJev transforma o que antes era um prompt longo e ambiguo em uma saida JSON limpa e acionavel.

Jevland: o jogo que se recria a cada 10 segundos

Julian Goldie usou o OpenJev para construir o Jevland, um sistema de jogo que se autogerencia. A cada 10 segundos, o cenario e regenerado com base no progresso do jogador dentro da fase, tudo orquestrado pelo motor de decisao do OpenJev conectado a Claude (via API). O codigo foi gerado com ajuda de IA: ele simplesmente passou a URL do GitHub do OpenJev, a documentacao e alguns exemplos para o Claude e pediu: "testa isso e constroi algo legal&quot.

O resultado e um sistema onde o jogo avalia constantemente o estado atual (posicao do jogador, itens coletados, inimigos derrotados) e toma decisoes sobre qual cenario, dificuldade e eventos gerar em seguida. E uma demonstracao pratica de como o contrato de decisao do Jev pode orquestrar sistemas complexos alem dos casos obvios de negocios.

Como rodar 100% local e de graca

O caminho mais interessante do OpenJev e o modo totalmente local. Voce precisa de duas coisas:

1. OpenJev rodando em localhost:3001 (ja vimos o setup acima)
2. Um modelo local via Ollama, LM Studio ou SGLang exposto em endpoint compativel com OpenAI

O processo:

# Terminal 1: servir um modelo local (ex: Qwen 2.5 7B)
ollama pull qwen2.5:7b
ollama serve

# Terminal 2: rodar o OpenJev
cd OpenJev && npm run dev

No playground do OpenJev em localhost:3001, configure a URL base como http://localhost:11434/v1 (endpoint padrao do Ollama) e o modelo como qwen2.5:7b. A partir dai, todas as decisoes rodam na sua maquina, sem cloud, sem custo por token, sem dados saindo da sua rede.

Para performance de producao, o OpenJevPro com SGLang empurra a latencia para baixo de 75ms usando modelos MoE otimizados. O guia completo de deploy local esta no repositorio do OpenJevPro em github.com/zhangcy122/OpenJevPro.

Cuidados e limitacoes atuais

Apesar de promissor, o OpenJev tem pontos de atencao importantes em 21 de setembro de 2026:

1. Sem licenca formal: o codigo e publico, mas sem arquivo de licenca significa all-rights-reserved. Voce pode estudar, rodar localmente e prototipar, mas nao pode incorporar em produtos comerciais ate que uma licenca seja adicionada. Acompanhe o repositorio.

2. Repositorio muito novo: criado ha menos de 48 horas pela SiliconLabAI, uma organizacao nova com um unico contribuidor listado (Jacob). Leia o codigo antes de injetar chaves de API. O codebase e pequeno (20 minutos de leitura), mas a regra de seguranca e clara: nao confie em repositorios recem-criados sem auditoria.

3. Calibracao improvisada: a confianca reportada pelo OpenJev vem de softmax sobre logits brutos, nao de calibracao treinada como no Jev original. Isso significa que os numeros de confianca sao aproximados e nao devem ser usados como limiares absolutos em aplicacoes criticas sem recalibracao propria.

4. Custo com modelos pagos: se voce usar GPT-4 ou Claude como motor de pontuacao, o design de multiplas chamadas paralelas multiplica os tokens de entrada. No exemplo do README, uma unica decisao consome 1.840 tokens. Com um modelo caro, isso escala rapido. A solucao e usar modelos gratuitos (Groq) ou locais.

5. Precisao nao reportada: diferente do OpenJevPro, o OpenJev original da SiliconLabAI nao publicou benchmarks de precisao. Ele e honesto no README: e uma aproximacao arquitetural, nao uma replicacao compativel em pesos.

O futuro do ecossistema Jev

O lancamento do Jev AI pela TypeSafe e a resposta relampago da comunidade com OpenJev e OpenJevPro mostram um ecossistema saudavel. Em menos de uma semana, temos:

• A implementacao oficial fechada com 96.3% de precisao e API comercial
• Uma reimplementacao open source (OpenJev) que democratiza o contrato de decisao
• Uma implementacao de alta performance (OpenJevPro) que empata em precisao com a original usando modelos abertos

A tendencia e clara: o contrato de decisao System One vai se tornar um padrao da industria, assim como APIs REST se tornaram o padrao para comunicacao entre servicos. O OpenJev e a porta de entrada gratuita para desenvolver nesse novo paradigma.

Se a TypeSafe liberar os pesos do Jev ou lancar uma opcao on-premise no futuro, o cenario muda completamente. Mas ate la, o OpenJev cumpre o papel que a comunidade precisava: aprender, prototipar e rodar decisoes estruturadas sem depender de uma unica empresa.

Conclusao

O OpenJev e exatamente o que o ecossistema open source faz de melhor: observar uma inovacao fechada, entender seu contrato fundamental e reconstrui-lo com ferramentas que todo mundo ja tem. Com tres comandos npm, uma chave gratuita da Groq e meia duzia de linhas de configuracao, voce tem um motor de decisao probabilistico rodando localmente com latencia inferior a 1 segundo.

Se voce quer maxima precisao e performance de producao, o OpenJevPro com Qwen3.6 e SGLang entrega 95.5% de acuracia a 45-75ms, competitivo com o Jev original. Se voce quer aprendizado e prototipagem rapida, o OpenJev com Groq e o caminho mais curto.

O codigo e publico, a documentacao e clara e o custo e zero. So nao esqueca de verificar a licenca antes de colocar em producao comercial.