Kyutai presenta REKI: un modelo vla de 2.4B que mejora la manipulación robótica con memoria eficiente
Kyutai, en colaboración con Inria y École des Ponts, ha presentado REKI, un modelo de visión-lenguaje-acción (VLA) de 2.4B diseñado para mejorar la manipulación robótica. REKI ha sido preentrenado con datos públicos y cuenta con un sistema de memoria de bajo coste que retiene información reciente. Supera a modelos de tamaño similar en tres pruebas fuera del dominio, siendo solo los modelos más grandes los que lo superan. Todos los pesos del modelo están ahora disponibles en Hugging Face.
REKI integra una arquitectura Qwen3.5-2B con un experto de acción de 200M parámetros, generando fragmentos de acción a través de la correspondencia de flujo en 10 pasos de Euler. El modelo utiliza RMSNorm adaptativo para el estado y el tiempo del flujo, con cada disposición de estado teniendo su propio pequeño MLP de estado. A diferencia de la mayoría de los VLAs que se basan únicamente en el fotograma actual, REKI integra la memoria dentro del experto de acción, utilizando 32 tokens de registro aprendidos que cruzan la atención de las indicaciones y las vistas codificadas, así como la atención de auto-referencia a fotogramas anteriores. Este diseño reduce la oscilación en los brazos robóticos, reduciendo las tasas de fallo en RoboTwin de 18,6 % a 4,1 %.
El preentrenamiento mejora significativamente el rendimiento, añadiendo 13,8 puntos en Clean2Rand y 30,3 en cluttered. La memoria mejora aún más los resultados, añadiendo 1,5 puntos en LIBERO-Plus y 5,4 en RoboCasa365. El modelo se preentrena una vez y se ajusta para cada prueba, con seis puntos de control disponibles, incluyendo versiones para LIBERO, RoboTwin, RoboCasa365 y RoboCasa-GR1. REKI está optimizado para el despliegue en robots reales utilizando el protocolo LeRobot, con un ajuste fino en un brazo UR5 que requiere 3.000 pasos en una hora.