Reflex-1

Visão geral

Muitas decisões do agente terminam com uma escolha: qual fila recebe uma solicitação, qual ferramenta se encaixa em uma tarefa ou qual ação vem a seguir. O Reflex-1 pontua as opções que seu aplicativo fornece em um único passe para frente. Ele retorna uma distribuição de probabilidade que o aplicativo pode usar para tomar essa decisão.

A pesquisa segue a direção dos modelos de decisão explorada pelo Jev, com arquitetura e procedimento de treinamento supervisionado próprios. Um codificador de contexto com 28 camadas e outro de candidatos com seis camadas alimentam uma camada de pontuação compartilhada. O checkpoint atual atualiza todos os 420,778,370 parâmetros.

O download público padrão fornece o checkpoint ajustado mais recente. Sua ficha contém os resultados de avaliação e as medições atuais de CPU. Os estudos e as gravações com data abaixo preservam a identificação de seus checkpoints originais.

Resultados atuais

A versão de 5 de outubro concluiu 21/30 episódios nativos de navegador MiniWoB++ com um controlador fixo. Obteve 92.93% em 495 exemplos de Banking77. São subconjuntos reservados de famílias de tarefas presentes no treinamento, não pontuações de benchmarks completos.

Em uma CPU Intel Xeon Platinum 8558, a inferência de Banking77 levou 375.2 ms de mediana e 452.1 ms de p95 com quatro threads de computação. O pico de memória do processo foi de 2.17 GiB, incluindo carregamento, aquecimento e inferência.

A avaliação completa ainda está pendente. BoolQ, RACE e o diagnóstico público JevBench regrediram em relação ao checkpoint anterior; Dino nativo atingiu a meta de 60 segundos em 0/16 tentativas. A latência atual em GPU não foi medida. A avaliação publicada registra o checkpoint, as condições e as verificações pendentes.

Como funciona

As respostas dos candidatos são fornecidas com cada solicitação. O modelo suporta de 1 a 255 opções por pergunta, dentro de seus limites simbólicos, e várias perguntas podem compartilhar um estado compactado. Um aplicativo de suporte pode fornecer suas próprias filas; um agente pode fornecer descrições das ferramentas disponíveis. Novos tipos de decisão precisam de seus próprios testes de precisão.

O modelo pontua as opções fornecidas; o aplicativo constrói argumentos da ferramenta e decide quais ações são permitidas. O texto do estado é limitado a 512 tokens de tokenizador de contexto e pode ser reduzido ainda mais de acordo com o orçamento da solicitação. Cada opção aceita até 512 tokens de tokenizador de opções. Inspecione state_truncated quando o contexto pode ter sido reduzido.

Exemplos

Os exemplos e as comparações de qualidade de decisão abaixo usam o snapshot de 3 de outubro. As medições de velocidade e recursos são identificadas separadamente. Cada gravação preserva seu desfecho observado, incluindo falhas.

Chromium Dino

Esta gravação usa o jogo original chrome://dino do Chromium. Reflex-1 recebe a geometria dos obstáculos visíveis e escolhe correr, pular ou abaixar. Eventos nativos de teclado executam essas escolhas enquanto o relógio do jogo continua durante a inferência. O vídeo mostra quadros reais do navegador em velocidade normal.

Reflex-1 · Chromium original43.6 s · VÍDEO SILENCIOSO

As duas tentativas terminaram em colisão após 42.31 segundos e 30.41 segundos; nenhuma atingiu o limite de 60 segundos. A mais longa aparece primeiro. Os percursos aleatórios são independentes, portanto não permitem uma comparação pareada entre modelos. A segunda tentativa completa está preservada abaixo.

Assista à segunda tentativa de Dino

Reflex-1 · Chromium original31.8 s · VÍDEO SILENCIOSO

ViZDoom

O jogo é o cenário Defend the Center do ViZDoom nativo, na dificuldade 5. Reflex-1 escolhe ações a partir dos limites de objetos visíveis, vida e munição. É um controlador de estado estruturado; não infere ações a partir de pixels. A gravação preserva o exemplo declarado previamente, mostrando apenas a visão do Reflex-1.

Reflex-1 · ViZDoom nativo36.5 s · VÍDEO SILENCIOSO

Nos 32 episódios reservados, esta versão obteve média de 18.88 eliminações e 22.47 segundos de sobrevivência. Todos terminaram antes do limite de 45 segundos. O gráfico preserva todos os modelos externos avaliados e as contagens completas de episódios.

Fluxos de trabalho no navegador

São sites WebGym sintéticos, distribuídos com Laya Browser e hospedados localmente. Os estados foram capturados em Chromium real, e o verificador original determina o sucesso. Reflex-1 seleciona ações e alvos; um auxiliar Qwen3-1.7B compartilhado fornece texto e valores de listas suspensas. O resultado avalia o sistema completo.

Reflex-1 · WebGym sintético30.1 s · 4× · VÍDEO SILENCIOSO

Reflex-1 · WebGym sintético8.1 s · 4× · VÍDEO SILENCIOSO

A reserva de restaurante tem sucesso; a compra falha. Ambas usam a mesma semente de tarefa declarada previamente e preservam o desfecho. A reprodução ocorre a 4× o tempo real, mantendo os estados capturados e a pausa final. São resultados de desenvolvimento em sites sintéticos, não pontuações de MiniWoB++, WebArena ou sites reais.

Reflex-1 concluiu 13/35 tarefas e Laya Browser 17/35. Os denominadores incluem todas as tentativas, falhas e erros de solicitação. Um piloto posterior no ambiente oficial MiniWoB++ concluiu 0/30 tarefas com esta versão; os resultados sintéticos não devem ser interpretados como sucesso nesse benchmark.

Qualidade das decisões

Typed Decisions abrange atendimento ao cliente, faturas, alertas de segurança e registros de agentes. A avaliação preserva os grupos de estados originais e solicita a cada modelo os mesmos cinco julgamentos por uma interface comum de opções. Reflex-1 acertou 1,508/2,000 julgamentos (75.4%).

Na coorte reservada de CLINC, Reflex-1 acertou 3,680/4,490 solicitações de intenção ou fora do escopo (82.0%). Na seleção de ferramentas desconhecidas acertou 72/87, abaixo do melhor resultado externo de 82/87. Os pontos fortes e as limitações aparecem abaixo.

São adaptações a opções comuns com coortes declaradas, não submissões a rankings oficiais. Os modelos externos foram avaliados como distribuídos, sem o treinamento específico do Reflex-1. As figuras preservam os intervalos de incerteza, orçamentos de tokens e contagens de truncamento originais.

Velocidade e recursos

As medições desta seção descrevem o checkpoint de 2 de outubro. As medições do checkpoint atual estão disponíveis na ficha do modelo vinculada acima.

latência de solicitação do H200

Reproduzimos 120 solicitações distintas duas vezes por modelo em um NVIDIA H200 compartilhado. Eles vieram de cinco ambientes de jogos e navegadores. Cada modelo recebeu as mesmas informações, com uma solicitação em andamento por vez.

A mediana do reflex-1 foi de 27.5 ms e o p95 de 30.5 ms. Ele foi mais rápido que OpenJev em FP32 e que Laya na medição separada em FP32. A configuração nativa de Laya usou autocast BF16 e teve uma mediana ligeiramente menor. A máquina compartilhada e o tamanho da amostra limitam as conclusões sobre resultados próximos.

O cronômetro inclui tokenização, pontuação do modelo, normalização de saída e HTTP de loopback. Isso exclui o carregamento e três solicitações de aquecimento. Os caches de respostas e opções foram desativados. Não medimos a taxa de transferência simultânea de serviços nesta execução. O OpenJev aqui é o checkpoint público do DeBerta; não é o serviço Jev hospedado.

latência DE CPU M4

O teste de CPU usou um MacBook Air M4, FP32 e tamanho de lote um. Cada modelo usou um thread intra-op PyTorch, um thread inter-op e um limite de thread BLAS de um. Cada tarefa teve 24 casos distintos, cada um repetido duas vezes. A ordem do modelo foi balanceada em oito blocos de execução.

Banking77 exige escolher entre 77 intenções. A mediana do reflex-1 foi de 345.2 ms, contra 1,332.6 ms do OpenJev na mesma execução. Nas cinco tarefas, as medianas do reflex-1 variaram de 256.2 a 463.4 ms.

Laya foi mais rápida em várias tarefas de menor escolha. Seu orçamento nativo do Banking77 truncou as opções, então seu cronograma cobre um conjunto reduzido de candidatos. Kev usou kernels de referência de CPU com adaptadores não mesclados. A atividade em segundo plano do laptop contribuiu para as maiores latências traseiras.

Este teste mede desde a construção da solicitação até a saída normalizada, com o modelo já carregado. Os testes de CPU e GPU usam solicitações diferentes; seus tempos não permitem calcular diretamente o ganho de velocidade da GPU em relação à CPU.

Precisão em tarefas conhecidas

O reflex-1 obteve uma pontuação de 95.0% no Banking77 e 92.2% no Emotion. Ele liderou os pontos de verificação comparados em ambos, empatou a melhor pontuação na AG News e no SST-5 e teve uma pontuação um pouco abaixo do OpenJev no BoolQ.

Foram 500 exemplos de diagnósticos por tarefa. As famílias de tarefas foram incluídas no treinamento e inspecionamos os subconjuntos durante o desenvolvimento. Os orçamentos de treinamento e a exposição anterior diferem entre os modelos. A precisão foi medida separadamente da latência, em mais exemplos.

O checkpoint geral concluiu 0 dos 80 testes com nosso controlador de navegador personalizado. O resultado expõe uma lacuna substancial entre a classificação de tarefas familiares e o controle autônomo. A transferência para perguntas desconhecidas e a calibração de probabilidade permanecem como problemas de avaliação abertos.

Treinamento e armazenamento

O modelo de serviço tem 420,778,370 parâmetros após a fusão dos adaptadores. O ModernBERT codifica o estado e as perguntas; um codificador MiniLM congelado representa as opções. A cabeça compartilhada combina suas representações.

A principal execução de adaptação atualizou 9,036,290 parâmetros em 6,000 etapas, usando 290,657 registros de oito famílias de tarefas. Foram necessários 75 minutos e 7 segundos em um H200, incluindo telas de desenvolvimento e salvamentos de checkpoint. O pré-treinamento do modelo básico, a preparação de dados, o ajuste da projeção e os experimentos anteriores são custos adicionais.

O modelo FP32 extraído ocupa cerca de 1.69 GB em disco. A medição separada de recursos de CPU registrou 1.50 GiB de RSS máximo do processo, incluindo alocações do framework, tokenizadores, carregamento, aquecimento e inferência. O uso de memória de GPU ainda não foi medido.

Acesso ao modelo

A versão pública Hugging Face contém os pesos FP32 de 1.68 GB, ambos tokenizadores e uma implementação independente de Transformers no Apache 2.0. Nenhuma conta, chave de API ou acesso ao GitHub é necessário. Use o Python 3.12:

python -m pip install "torch==2.8.0" "transformers==5.17.0" "safetensors==0.8.0"

import torch
from transformers import AutoModel

torch.set_num_threads(1)
model = AutoModel.from_pretrained("gai-labs/reflex-1", trust_remote_code=True)

decision = model.predict(
    state="The customer was charged twice for one card payment.",
    question="Choose the matching issue.",
    options=["duplicate charge", "lost card", "unknown fee", "cash withdrawal"],
)[0]
print(decision.choice)

Carregue o modelo uma vez e reutilize-o. O cartão modelo documenta inferência em lote, várias perguntas, carregamento offline e hashes de lançamento. O repositório de desenvolvimento permanece privado; o pacote público inclui o código necessário para a inferência.

O treinamento original utilizou RACE e SciQ, cujos termos incluem restrições não comerciais. A ficha do modelo documenta o uso e as revisões fixas. A análise de procedência não determina como esses termos se aplicam aos pesos treinados.

Gravações e reprodução dos resultados

Use a revisão fixa do Hub de 3 de outubro para reproduzir estas gravações. Os gráficos preservam os resultados medidos, incluindo perdas de capacidades anteriores. Cada gravação identifica o ambiente, o formato de entrada e a velocidade de reprodução.

A versão atual tem uma avaliação separada, acessível pela ficha do modelo. Estas gravações e estudos preservam seus resultados originais.