Reflex-1

Descripción general

Muchas decisiones de los agentes terminan con una elección: qué cola recibe una solicitud, qué herramienta se ajusta a una tarea o qué acción sigue. Reflex-1 puntúa las elecciones que ofrece su solicitud en una sola pasada. Devuelve una distribución de probabilidad que la aplicación puede usar para tomar esa decisión.

La investigación sigue la línea de modelos de decisión explorada por Jev, con una arquitectura y un procedimiento de entrenamiento supervisado propios. Un codificador de contexto de 28 capas y otro de candidatos de seis capas alimentan un cabezal de puntuación compartido. El checkpoint actual actualiza los 420,778,370 parámetros.

La descarga pública predeterminada es el último checkpoint ajustado. Su ficha contiene los resultados de evaluación y las mediciones de CPU actuales. Los estudios y las grabaciones fechados de abajo conservan la identificación de sus checkpoints originales.

Resultados actuales

La versión del 5 de octubre completó 21/30 episodios nativos de navegador MiniWoB++ con un controlador fijo. Obtuvo 92.93% en 495 ejemplos de Banking77. Son subconjuntos reservados de familias de tareas presentes en el entrenamiento, no puntuaciones de benchmarks completos.

En una CPU Intel Xeon Platinum 8558, la inferencia de Banking77 tardó 375.2 ms de mediana y 452.1 ms de p95 con cuatro hilos de cómputo. El pico de memoria del proceso fue de 2.17 GiB, incluyendo carga, calentamiento e inferencia.

La evaluación completa sigue pendiente. BoolQ, RACE y el diagnóstico público de JevBench retrocedieron respecto al checkpoint anterior; Dino nativo alcanzó el objetivo de 60 segundos en 0/16 intentos. No se ha medido la latencia actual en GPU. La evaluación publicada recoge el checkpoint, las condiciones y las pruebas pendientes.

Cómo funciona

Las respuestas candidatas se proporcionan con cada solicitud. El modelo admite entre 1 y 255 opciones por pregunta, dentro de sus límites simbólicos, y varias preguntas pueden compartir un estado empaquetado. Una aplicación de soporte puede proporcionar sus propias colas; un agente puede proporcionar descripciones de las herramientas que tiene disponibles. Los nuevos tipos de decisión necesitan sus propias pruebas de precisión.

El modelo puntúa las opciones suministradas; la aplicación construye los argumentos de la herramienta y decide qué acciones están permitidas. El texto estatal tiene un límite de 512 fichas de tokenización de contexto y se puede acortar aún más con el presupuesto solicitado. Cada opción acepta hasta 512 fichas de tokenización de opciones. Inspeccione state_truncated cuándo es posible que el contexto se haya acortado.

Ejemplos

Los ejemplos y las comparaciones de calidad de decisión siguientes usan la instantánea del 3 de octubre. Las mediciones de velocidad y recursos se identifican por separado. Cada grabación conserva su final observado, incluidos los fallos.

Chromium Dino

Esta grabación usa el juego original chrome://dino de Chromium. Reflex-1 recibe la geometría de los obstáculos visibles y elige correr, saltar o agacharse. Los eventos de teclado nativos ejecutan esas opciones mientras el reloj del juego sigue avanzando durante la inferencia. El vídeo muestra imágenes reales del navegador a velocidad normal.

Reflex-1 · Chromium original43.6 s · VÍDEO MUDO

Las dos pruebas terminaron en colisión tras 42.31 segundos y 30.41 segundos; ninguna llegó al límite de 60 segundos. La más larga aparece primero. Son recorridos aleatorios independientes, por lo que no permiten una comparación emparejada de modelos. La segunda prueba completa se conserva abajo.

Ver el segundo intento de Dino

Reflex-1 · Chromium original31.8 s · VÍDEO MUDO

ViZDoom

El juego es el escenario Defend the Center de ViZDoom nativo, en dificultad 5. Reflex-1 elige acciones a partir de límites de objetos visibles, salud y munición. Es un controlador de estado estructurado; no infiere acciones a partir de píxeles. La grabación conserva el ejemplo declarado previamente, con una sola vista de Reflex-1.

Reflex-1 · ViZDoom nativo36.5 s · VÍDEO MUDO

En los 32 episodios reservados, esta versión logró una media de 18.88 bajas y 22.47 segundos de supervivencia. Todos terminaron antes del límite de 45 segundos. El gráfico conserva todos los modelos externos evaluados y los recuentos completos de episodios.

Flujos de trabajo en el navegador

Son sitios sintéticos WebGym alojados localmente y distribuidos con Laya Browser. Los estados se capturaron en Chromium real y el verificador original determina el éxito. Reflex-1 selecciona acciones y objetivos; un auxiliar Qwen3-1.7B compartido aporta texto y valores de listas desplegables. El resultado evalúa el sistema completo.

Reflex-1 · WebGym sintético30.1 s · 4× · VÍDEO MUDO

Reflex-1 · WebGym sintético8.1 s · 4× · VÍDEO MUDO

La reserva de restaurante tiene éxito; la compra falla. Ambas usan la misma semilla de tarea declarada previamente y conservan el desenlace. La reproducción va a 4× el tiempo real, con los estados capturados y la pausa final conservados. Son resultados de desarrollo en sitios sintéticos, no puntuaciones de MiniWoB++, WebArena ni sitios reales.

Reflex-1 completó 13/35 tareas y Laya Browser 17/35. Los denominadores incluyen todos los intentos, fallos y errores de solicitud. Un piloto posterior en el entorno oficial MiniWoB++ completó 0/30 tareas con esta versión; los resultados sintéticos no deben interpretarse como éxito en ese benchmark.

Calidad de las decisiones

Typed Decisions abarca atención al cliente, facturas, alertas de seguridad y trazas de agentes. La evaluación conserva los grupos de estados originales y pide a cada modelo los mismos cinco juicios mediante una interfaz común de opciones. Reflex-1 acertó 1,508/2,000 juicios (75.4%).

En la cohorte reservada de CLINC, Reflex-1 respondió correctamente a 3,680/4,490 solicitudes de intención y fuera de alcance (82.0%). En selección de herramientas desconocidas acertó 72/87, por debajo del mejor resultado externo de 82/87. Abajo se muestran fortalezas y limitaciones.

Son adaptaciones a opciones comunes con cohortes declaradas, no envíos a clasificaciones oficiales. Los modelos externos se evaluaron tal como se distribuyen, sin el entrenamiento específico de Reflex-1. Las figuras conservan los intervalos de incertidumbre, presupuestos de tokens y recuentos de truncamiento originales.

Velocidad y recursos

Las mediciones de esta sección corresponden al checkpoint del 2 de octubre. Las del checkpoint actual están disponibles en la ficha de modelo enlazada arriba.

Latencia de solicitud del H200

Reproducimos 120 solicitudes distintas dos veces por modelo en una NVIDIA H200 compartida. Procedían de cinco entornos de juego y navegador. Todos los modelos recibieron las mismas entradas, con una solicitud en vuelo a la vez.

La mediana de reflex-1 fue de 27.5 ms y su p95 de 30.5 ms. Fue más rápido que OpenJev en FP32 y que Laya en la medición separada en FP32. La configuración nativa de Laya usó autocast BF16 y obtuvo una mediana ligeramente menor. El equipo compartido y el tamaño de la muestra limitan las conclusiones sobre resultados tan próximos.

El temporizador incluye la tokenización, la puntuación del modelo, la normalización de la salida y el HTTP de bucle invertido. Excluye la carga y tres solicitudes de calentamiento. Las cachés de respuestas y opciones estaban deshabilitadas. No medimos el rendimiento de los servidores simultáneos en esta ejecución. OpenJev aquí es el punto de control público de DeBerta; no es el servicio Jev alojado.

LATENCIA DE LA CPU M4

La prueba de la CPU utilizó un MacBook Air M4, un FP32 y un tamaño de lote uno. Cada modelo utilizó un subproceso intraoperatorio de PyTorch, un subproceso interoperativo y un límite de subprocesos BLAS de uno. Cada tarea tenía 24 casos distintos, cada uno repetido dos veces. El orden del modelo se equilibró en ocho bloques de ejecución.

Banking77 exige elegir entre 77 intenciones. La mediana de reflex-1 fue de 345.2 ms, frente a 1,332.6 ms de OpenJev en la misma ejecución. En las cinco tareas, las medianas de reflex-1 variaron entre 256.2 y 463.4 ms.

Laya era más rápida en varias tareas de menor envergadura. Su presupuesto original, Banking77, truncaba las opciones, por lo que su calendario cubre un conjunto reducido de candidatos. Kev usó núcleos de referencia de CPU con adaptadores no fusionados. En segundo plano, la actividad de los ordenadores portátiles contribuyó a aumentar las latencias de la cola.

Esta prueba mide desde la construcción de la solicitud hasta la salida normalizada, con el modelo ya cargado. Las pruebas de CPU y GPU usan solicitudes diferentes; sus tiempos no permiten calcular directamente la aceleración de GPU respecto a CPU.

Precisión en tareas conocidas

reflex-1 obtuvo un 95.0% en Banking77 y un 92.2% en Emotion. Lideró los puntos de control comparados en ambos, empató la mejor puntuación en AG News y SST-5, y obtuvo una puntuación ligeramente inferior a OpenJev en BoolQ.

Se trataba de 500 ejemplos de diagnóstico por tarea. Las familias de tareas se incluyeron en la capacitación y inspeccionamos los subconjuntos durante el desarrollo. Los presupuestos de capacitación y la exposición previa difieren entre los modelos. La precisión se midió por separado de la latencia, en más ejemplos.

El punto de control general completó 0 de las 80 pruebas con nuestro controlador de navegador personalizado. El resultado expone una brecha sustancial entre la clasificación de tareas familiares y el control autónomo. La transferencia a preguntas desconocidas y la calibración de probabilidades siguen siendo problemas de evaluación abiertos.

Formación y almacenamiento

El modelo de servicio tiene 420,778,370 parámetros después de combinar los adaptadores. ModernBERT codifica el estado y las preguntas; un codificador MiniLM congelado representa las opciones. La cabecera compartida combina sus representaciones.

La ejecución principal de la adaptación actualizó 9,036,290 parámetros en 6,000 pasos, utilizando 290,657 registros de ocho familias de tareas. Se necesitaron 75 minutos y 7 segundos en un H200, incluidas las pantallas de desarrollo y los puntos de control guardados. El entrenamiento previo del modelo base, la preparación de datos, el ajuste de la proyección y los experimentos anteriores son costos adicionales.

El modelo FP32 extraído ocupa aproximadamente 1.69 GB en disco. La medición separada de recursos de CPU registró 1.50 GiB de RSS máximo del proceso, incluyendo memoria asignada por el framework, tokenizadores, carga, calentamiento e inferencia. El uso de memoria de GPU aún no se ha medido.

Acceso modelo

La versión pública Hugging Face contiene los pesos FP32 de 1.68 GB, ambos tokenizadores y una implementación autónoma de Transformers en Apache 2.0. No se requiere ninguna cuenta, clave de API ni acceso a GitHub. Usa Python 3.12:

python -m pip install "torch==2.8.0" "transformers==5.17.0" "safetensors==0.8.0"

import torch
from transformers import AutoModel

torch.set_num_threads(1)
model = AutoModel.from_pretrained("gai-labs/reflex-1", trust_remote_code=True)

decision = model.predict(
    state="The customer was charged twice for one card payment.",
    question="Choose the matching issue.",
    options=["duplicate charge", "lost card", "unknown fee", "cash withdrawal"],
)[0]
print(decision.choice)

Cargue el modelo una vez y reutilícelo. La tarjeta modelo documenta la inferencia por lotes, las preguntas múltiples, la carga sin conexión y los hashes de publicación. El repositorio de desarrollo permanece privado; el paquete público incluye el código necesario para la inferencia.

El entrenamiento original utilizó RACE y SciQ, cuyas condiciones incluyen restricciones no comerciales. La ficha del modelo documenta su uso y las versiones fijas. La revisión de procedencia no determina cómo se aplican esas condiciones a los pesos entrenados.

Grabaciones y reproducibilidad

Usa la revisión fija del Hub del 3 de octubre para reproducir estas grabaciones. Los gráficos conservan los resultados medidos, incluidas las pérdidas de capacidades previas. Cada grabación identifica el entorno, el formato de entrada y la velocidad de reproducción.

La versión actual tiene una evaluación independiente enlazada desde su ficha de modelo. Estas grabaciones y estudios conservan sus resultados originales.