Kyutai apresenta o REKI: um modelo vla de 2,4B parâmetros para melhorar a manipulação robótica com memória eficiente

A Kyutai, em colaboração com a Inria e a École des Ponts, apresentou o REKI, um modelo visão-linguagem-ação (VLA) de 2,4B parâmetros, projetado para melhorar a manipulação robótica. O REKI foi pré-treinado em dados públicos e possui um sistema de memória de baixo custo que retém informações recentes. Ele supera modelos de tamanho semelhante em três benchmarks fora da distribuição, com apenas modelos maiores o superando. Todos os pesos do modelo estão agora disponíveis no Hugging Face. O REKI integra uma estrutura Qwen3.5-2B com um especialista de ação de 200M parâmetros, gerando fragmentos de ação através de correspondência de fluxo em 10 passos de Euler. O modelo utiliza RMSNorm adaptativo para o estado e o tempo do fluxo, com cada layout de estado tendo sua própria pequena MLP de estado. Ao contrário da maioria dos VLAs que dependem apenas do quadro atual, o REKI incorpora a memória no especialista de ação, utilizando 32 tokens de registro aprendidos que atendem cruzadamente prompts e visualizações codificadas, enquanto atendem de forma autônoma aos quadros anteriores. Este design reduz a oscilação nos braços robóticos, reduzindo as taxas de falha no RoboTwin de 18,6% para 4,1%. O pré-treinamento aumenta significativamente o desempenho, adicionando 13,8 pontos em Clean2Rand e 30,3 em clutter. A memória melhora ainda mais os resultados, adicionando 1,5 pontos em LIBERO-Plus e 5,4 em RoboCasa365. O modelo é pré-treinado uma vez e ajustado para cada benchmark, com seis checkpoints disponíveis, incluindo versões para LIBERO, RoboTwin, RoboCasa365 e RoboCasa-GR1. O REKI é otimizado para implantação em robôs reais usando o protocolo LeRobot, com ajuste fino em um braço UR5 exigindo 3.000 passos em uma hora.