Reflex-1 簡介

一次透過，許多可能的決定

Reflex-1 是一個參數量為 421M 的模型，用於從候選項中做出決策。輸入文字狀態、問題及候選答案，模型即可透過一次前向傳播為候選項評分。每次請求都可以提供不同的候選項。

同一介面可用於分流支援請求、選擇工具或決定動作。28 層上下文編碼器和六層候選編碼器連接至共用評分頭。應用程式提供候選項並執行結果。

錄影範例

上方的 Dino 錄影與下方範例使用 10 月 3 日快照，與預設公開權重不同。執行條件與結果皆列於影片說明中。

Reflex-1 · 原生 ViZDoom36.5 秒 · 無聲影片

Reflex-1 · 合成 WebGym30.1 秒 · 4× · 無聲影片

查看全部錄影與比較。

CPU 推論

目前檢查點在 Intel Xeon Platinum 8558 CPU 上以 FP32 測量，每次處理一個請求。每種執行緒設定在兩個新程序中對 120 個輸入共執行 480 次呼叫。計時包含斷詞與推論。

程序尖峰記憶體為 2.17 GiB，包括載入、預熱與推論。測試分別使用一個或四個 PyTorch 算子內執行緒、一個算子間執行緒，以及相同數量的 BLAS 執行緒。觀測到的作業系統執行緒總數分別為兩個和十一個，其中包含執行環境的輔助執行緒。

目前的測量與評估。這些共用主機上的計時使用評估執行環境，不包含載入、暖機與跨請求快取。研究頁面保留了早期 M4 與 H200 測量結果及其檢查點日期。

試用 Reflex-1

公開權重、分詞器及推論程式碼均已發布於 Hugging Face。無須帳號或 API 金鑰。安裝相依套件後即可執行：

import torch
from transformers import AutoModel

torch.set_num_threads(1)
model = AutoModel.from_pretrained("gai-labs/reflex-1", trust_remote_code=True)

decision = model.predict(
    state="The customer was charged twice for one card payment.",
    question="Choose the matching issue.",
    options=["duplicate charge", "lost card", "unknown fee", "cash withdrawal"],
)[0]
print(decision.choice)

安裝方式、執行階段限制及授權資訊（包括訓練資料來源的使用條款）詳見模型卡。