Adaptation de paramètres 9M dans un modèle 421M

L’adaptation principale de reflex-1 a mis à jour 9,036,290 paramètres. Après fusion des adaptateurs, le modèle d’inférence comptait 420,778,370 paramètres. Les paramètres entraînables représentaient environ 2.15% de ce total.

La majorité des paramètres provenaient des encodeurs préentraînés. ModernBERT représente l’état et la question ; MiniLM, gelé, représente les réponses candidates. Une projection ajustée relie leurs représentations. L’entraînement principal a mis à jour des adaptateurs de rang 16 et une tête de décision partagée.

Les poids figés participent toujours à l'inférence. Ils occupent de la mémoire et effectuent des calculs même si l'adaptation ne les met pas à jour.

Le parcours mesuré

Nous avons utilisé 290,657 enregistrements provenant de huit familles de tâches et effectué 6,000 mises à jour. La boucle a duré 75 minutes 7 secondes sur un NVIDIA H200, y compris les écrans de développement et les sauvegardes aux points de contrôle.

Cette durée exclut le préentraînement du modèle de base, les téléchargements, la préparation des données, l’ajustement de la projection et les expériences antérieures. Le checkpoint obtenu atteint 95.0% sur Banking77 et 92.2% sur Emotion dans les diagnostics de tâches familières. Le rapport de performance couvre les cinq tâches et les checkpoints comparés.

Après la fusion

Le modèle FP32 extrait occupe environ 1.69 GB sur le disque. Le service a toujours besoin de mémoire pour les activations et les allocations de framework. La fraction d'adaptateur décrit donc la tâche d'adaptation, et non la fraction du modèle complet nécessaire au moment de l'exécution.