Reflex-1

概要

エージェントの決定の多くは、どのキューがリクエストを受け取るか、 どのツールがタスクに適しているか、次にどのアクションを実行するかという選択で終わります。Reflex-1は、 1回のフォワードパスでアプリケーションが提供する選択肢をスコアリングします。アプリケーションがその決定に使用できる確率分布を返します 。

本研究は Jev が探る意思決定モデルの方向性を踏まえ、独自のアーキテクチャと教師あり学習手順を採用しています。28 層のコンテキストエンコーダーと六層の候補エンコーダーを共通のスコアリングヘッドに接続し、現在のチェックポイントでは全 420,778,370 パラメーターを更新しています。

最新のファインチューニング済みチェックポイントが標準の公開ダウンロード対象です。モデルカードには現在の評価結果と CPU 測定値を掲載しています。以下の日付付きの研究結果と録画には元のチェックポイント情報を残しています。

現行モデルの結果

10 月 5 日のリリースは、固定したコントローラでネイティブ MiniWoB++ のブラウザエピソードを 21/30 件完了しました。Banking77 の 495 例で正解率 92.93%を記録しています。学習に含まれるタスク群の予約済みサブセットであり、ベンチマーク全体のスコアではありません。

Intel Xeon Platinum 8558 CPU で四つの計算スレッドを使用した Banking77 推論は、中央値 375.2 ms、p95 は 452.1 msでした。読み込み、ウォームアップ、推論を含むプロセスメモリのピークは 2.17 GiBです。

評価全体はまだ完了していません。BoolQ、RACE、公開 JevBench 診断の結果は前のチェックポイントから低下しました。ネイティブ Dino で 60 秒の目標を達成したのは試行 0/16 件です。現行モデルの GPU レイテンシは未測定です。公開評価にチェックポイント、条件、未検証の項目を記載しています。

仕組み

回答候補は、各リクエストとともに提供されます。このモデルは、トークンの制限内で、 質問ごとに1〜255の選択肢をサポートし、 複数の質問でパック状態を共有できます。サポートアプリケーションは独自のキューを提供でき、 エージェントは利用可能なツールの説明を提供できます。 新しい意思決定タイプには独自の精度テストが必要です。

モデルは指定されたオプションを採点し、アプリケーションはツールの引数を作成し、どのアクションを許可するかを決定します。ステートテキストは 512 個のコンテキストトークナイザートークンに制限されており、リクエストバジェットに応じてさらに短縮できます。 各選択肢は、最大 512 個のオプショントークナイザートークンを受け入れます。state_truncated コンテキストが短縮された可能性があるかどうかを調べます。

実例

以下の例と意思決定品質の比較には 10 月 3 日のスナップショット を使用しています。速度とリソースの測定は別途明記しています。各録画には失敗を含め、実際の終了場面を残しています。

Chromium Dino

この録画は Chromium 本来の chrome://dino ゲームを使用しています。Reflex-1 は現在見える障害物の形状を受け取り、走る・跳ぶ・かがむを選びます。通常のキーボードイベントで実行され、推論中もゲームの時計は進みます。動画は実際のブラウザー画面を通常速度で表示します。

Reflex-1 · オリジナル Chromium43.6 秒 · サイレントビデオ

このスナップショットでの 2 回の試行は、42.31 秒と30.41 秒で衝突し、どちらも 60 秒の上限には届きませんでした。長い試行を先に示します。独立したランダムコースのため、対応のあるモデル比較には使えません。2 回目の試行も下に全編を掲載しています。

Dino の 二回目の試行を見る

Reflex-1 · オリジナル Chromium31.8 秒 · サイレントビデオ

ViZDoom

ゲームはネイティブ ViZDoom の Defend the Center シナリオ、難易度 5 です。Reflex-1 は見える物体の境界、体力、弾薬量から行動を選びます。構造化状態を使う制御器であり、画素から行動を推論するものではありません。下の録画は事前に指定した例を Reflex-1 単独の画面で示しています。

Reflex-1 · ネイティブ ViZDoom36.5 秒 · サイレントビデオ

全 32 予約済みエピソードで、平均18.88 体撃破、生存時間22.47 秒でした。すべて 45 秒の上限前に終了しました。グラフには、評価した外部モデルすべてと全エピソード数を残しています。

ブラウザーのワークフロー

Laya Browser に同梱された合成 WebGym サイトをローカルで実行しています。実際の Chromium でブラウザー状態を記録し、元のタスク判定器で成功を判定します。Reflex-1 が行動と対象を選び、共通の Qwen3-1.7B 補助モデルが入力文字列と選択リストの値を供給します。結果はこのシステム全体を評価しています。

Reflex-1 · 合成 WebGym30.1 秒 · 4× · サイレントビデオ

Reflex-1 · 合成 WebGym8.1 秒 · 4× · サイレントビデオ

レストランのタスクは成功し、買い物のタスクは失敗しました。同じ事前指定のタスクシードを使い、実際の結末を残しています。取得したブラウザー状態を実時間の 4× で再生し、終了画面の保持も残しています。合成サイトでの開発結果であり、MiniWoB++、WebArena、実サイトのスコアではありません。

この評価で Reflex-1 は 13/35、Laya Browser は 17/35 のタスクを完了しました。失敗やモデルリクエストのエラーも含む全試行を分母に残しています。後に公式 MiniWoB++ 環境で行った予備試験では、このスナップショットは 0/30 でした。合成サイトの結果を同ベンチマークの成功と解釈することはできません。

判断の精度

Typed Decisions は顧客対応、請求書処理、セキュリティ警告、エージェントの実行履歴を扱います。元の状態グループを保ち、共通の選択肢インターフェースで各モデルに同じ 5 判断を求めます。Reflex-1 は 1,508/2,000 件に正解しました（75.4%）。

予約済みの CLINC 評価群では、Reflex-1 は意図分類と対象外のリクエスト 3,680/4,490 件に正解しました（82.0%）。未知のツール選択は 72/87 で、外部モデルの最高値 82/87 を下回りました。強みと残る差をともに示します。

これらは明示した評価群での共通選択肢形式への適応であり、公式ランキングへの提出ではありません。外部モデルは配布状態で評価し、Reflex-1 のタスク別訓練は受けていません。元の不確実性区間、トークン予算、切り詰め件数を図に残しています。

速度とリソース

この節の測定値は 10 月 2 日のチェックポイントに対応します。現在のチェックポイントの測定値は、上記リンク先のモデルカードで確認できます。

H200 リクエストレイテンシ

共有の NVIDIA H200 で、120 件の異なるリクエストをモデルごとに 2 回リプレイしました。 それらは5つのゲーム環境とブラウザ環境から来ました。 すべてのモデルが同じ入力を受け取りましたが、一度に 1 つのリクエストが処理されました。

reflex-1 の中央値は 27.5 ms、p95 は 30.5 ms でした。FP32 の OpenJev、および別途 FP32 で再測定した Laya より高速でした。Laya の標準設定は BF16 autocast を使い、中央値はわずかに低くなりました。共有マシンと限られたサンプル数での測定のため、僅差の結果から導ける結論には限界があります。

タイマーには、トークン化、モデルスコアリング、出力正規化、ループバック HTTP が含まれます。 ロードと 3 回のウォームアップリクエストは含まれません。 回答キャッシュとオプションキャッシュは無効になりました。この実行では、 同時処理のスループットを測定しませんでした。OpenJev は公開されている DeBerta チェックポイントで、ホストされている Jev サービスではありません。

M4 CPU レイテンシ

CPUテストでは、MacBook Air M4、FP32、およびバッチサイズ1を使用しました。各モデルは、PyTorch のイントラオペレーションスレッドを1つとオペレーション間スレッドを1つ使用し、BLASスレッドの制限は1つでした。 各タスクには24の異なるケースがあり、 それぞれ2回繰り返されました。モデルの順序は 8 つの実行ブロックでバランスが取れていました。

Banking77 では 77 個の意図から選択します。同じ測定で、reflex-1 の中央値は 345.2 ms、OpenJev は 1,332.6 ms でした。5 つのタスクにおける reflex-1 の中央値は 256.2〜463.4 ms でした。

Layaは、選択の少ないいくつかのタスクでより速かった。 ネイティブのBanking77予算ではオプションが切り捨てられていたため、そのタイミングは限られた候補セットを対象としていました。 Kevは、統合されていないアダプターを備えたCPUリファレンスカーネルを使用していました。 バックグラウンドラップトップのアクティビティがテールレイテンシーの拡大の一因となりました。

このテストはモデルを読み込んだ状態で、リクエストの構築から正規化した出力までを計測しています。CPU と GPU では異なるリクエストを使っているため、この時間から CPU に対する GPU の速度向上率を直接算出することはできません。

学習済みタスクの精度

reflex-1はBanking77 で95.0%、Emotion で92.2%のスコアを記録しました。 両者で比較したチェックポイントで首位に立ち、AG News sとSST-5で最高得点を記録し、 BoolQではOpenJevをわずかに下回りました。

これらはタスクあたり500例の診断でした。 タスクファミリーはトレーニングに含まれ、開発中にサブセットを検査しました。 トレーニング予算と過去の経験はモデルによって異なります。その他の例では、 精度はレイテンシとは別に測定されました。

ジェネラルチェックポイントは、 カスタムブラウザコントローラーを使用して80回のトライアルのうち0回を完了しました。その結果、 使い慣れたタスク分類と自律制御との間に大きなギャップがあることが明らかになった。 なじみのない質問に移り、確率キャリブレーションは未解決の評価問題のままです。

トレーニングと保管

アダプターのマージ後、サービングモデルには420,778,370のパラメーターがあります。 ModernBERTは状態と質問をエンコードし、フリーズしたMiniLM エンコーダーは選択肢を表します。共有ヘッドはそれらの表現を組み合わせます。

主な適応実行では、8つのタスクファミリーの290,657件のレコードを使用して 、6,000ステップにわたって9,036,290のパラメーターを更新しました。開発画面とチェックポイントセーブを含めて、 1台のH200で75分7秒かかりました。 基本モデルの事前トレーニング、データ準備、予測フィッティング、 および以前の実験には追加コストが発生します。

展開した FP32 モデルはディスク上で約 1.69 GB を占めます。別途行った CPU リソース測定では、フレームワークの割り当て、トークナイザー、読み込み、ウォームアップ、推論を含むプロセスの最大常駐メモリ（RSS）が 1.50 GiB でした。GPU メモリ使用量は未測定です。

モデルアクセス

Hugging Face の公開リリースには、1.68 GBのFP32ウェイト、両方のトークナイザー、およびApache 2.0での自己完結型のTransformers 実装が含まれています。 アカウント、API キー、 GitHub へのアクセスは必要ありません。Python 3.12 を使う:

python -m pip install "torch==2.8.0" "transformers==5.17.0" "safetensors==0.8.0"

import torch
from transformers import AutoModel

torch.set_num_threads(1)
model = AutoModel.from_pretrained("gai-labs/reflex-1", trust_remote_code=True)

decision = model.predict(
    state="The customer was charged twice for one card payment.",
    question="Choose the matching issue.",
    options=["duplicate charge", "lost card", "unknown fee", "cash withdrawal"],
)[0]
print(decision.choice)

モデルを一度読み込んで再利用します。モデルカードには、バッチ推論、 複数の質問、オフラインロード、リリースハッシュが記載されています。 開発リポジトリは非公開のままです。 公開パッケージには推論に必要なコードが含まれています。

元の訓練には RACE と SciQ を使用しており、それぞれの条件に非商用制限が含まれます。モデルカードに利用方法と固定リビジョンを記載しています。出典の監査は、その条件が訓練済み重みにどう適用されるかを確定するものではありません。

記録と再現方法

録画を再現するには、十月 3 日の固定 Hub リビジョンを使用してください。上の図には既存能力の低下も含めた測定結果を残しています。各録画は環境、入力形式、再生速度を明示しています。

現在のリリースの評価はモデルカードから参照できます。これらの録画と研究では元の結果を保持しています。