Mistral AI presenta Timestral: una nueva familia de modelos de pronóstico que supera a google's timesfm-3
Mistral AI ha lanzado Timestral, una familia de modelos de pronóstico de series temporales que supera a Google's TimesFM-3. La familia de modelos incluye cuatro modelos de pronóstico de cero disparos, que van de 5M a 209M de parámetros. El modelo más grande, Timestral-209M, ocupa el primer lugar en GIFT-Eval, TIME y fev-bench sin utilizar una GPU. Proporciona pronósticos probabilísticos en CPUs estándar con pesos y código de inferencia abiertos.
Timestral es un transformador causal y basado en parches con atención en el tiempo y en las variables. Transfiere patrones entre dominios, pronosticando objetivos multivariados conjuntamente. El modelo de 209M utiliza 24 capas y una dimensión de incrustación de 768, con cada parche cubriendo 32 pasos de tiempo. Puede pronosticar hasta 1.024 pasos en una sola pasada hacia adelante. Mistral destaca su eficiencia, con el modelo de 5M completando un pronóstico de 1 día en 10 ms y el modelo de 209M tardando 140 ms. El modelo de 28M es cinco veces más rápido que el modelo de 209M.
El modelo está disponible a través de pip, requiriendo Python 3.10+ y PyTorch 2.4+. Los pesos están alojados en Hugging Face, con tamaños que van de 21 MB a 490 MB. La documentación de Mistral enumera a Timestral 1.0 209M como Public Preview, con opciones de ajuste fino a través de Mistral Forge. El modelo se puede implementar en el sitio, en una VPC o en un entorno aislado.