NVIDIA presenta kumo tabular: modelos tabulares de código abierto para un análisis predictivo eficiente

NVIDIA ha presentado Kumo Tabular, una familia de modelos fundamentales tabulares (TFMs) de código abierto, diseñada para tareas de clasificación y regresión. Estos modelos predicen nuevas filas en una sola pasada hacia adelante, sin necesidad de entrenamiento, ajuste de hiperparámetros o ingeniería de características. Disponible en versiones Small, Medium y Large, Kumo Tabular tiene entre 28 millones y 215 millones de parámetros y funciona a través de la biblioteca de modelos de datos estructurados (SDM) de NVIDIA. La biblioteca también incluye TabICLv2, Google's TabFM y KumoRelational para datos de múltiples tablas. Todos los modelos comparten una interfaz de aprendizaje en contexto construida sobre un contenedor TableTensor, que admite la preprocesamiento, el ensamblaje y la predicción multiclase. Kumo Tabular, un modelo basado en Transformer, utiliza mecanismos de atención en columnas, filas y en contexto. Escala la atención de consulta con un parámetro de temperatura que crece logarítmicamente con el número de claves, manteniendo una atención nítida en tablas más grandes. Preentrenados en tablas sintéticas generadas a partir de Modelos Causales Estructurales (SCMs), los modelos incorporan patrones del mundo real como valores faltantes y filas contradictorias. NVIDIA informa que Kumo Tabular ocupa el primer lugar en TabArena con una puntuación Elo de 1950 y funciona 17 veces más rápido que LimiX-2 en una RTX 6000 Pro. Los modelos están disponibles bajo licencias permisivas, lo que los hace accesibles para uso comercial.