Prior labs apresenta o TabPFN-3.5, um modelo tabular que supera a solução vencedora do kaggle de 2015 sem ajuste

A Prior Labs lançou o TabPFN-3.5, um modelo fundamental tabular que supera a solução vencedora da competição do Kaggle de 2015, Otto, utilizando configurações padrão. O modelo alcança uma perda logarítmica de 0,375 na tabela de classificação privada, superando o recorde anterior de 0,382. Nick Erickson, co-criador do AutoGluon e pesquisador de IA na Prior Labs, observou que o TabPFN-3.5 funcionou com dados brutos sem qualquer ajuste, alcançando este resultado em cerca de um minuto em um GPU RTX PRO 6000. O TabPFN-3.5 também conquista o primeiro lugar em sete benchmarks, incluindo TabArena, BeyondArena e STRABLE. O modelo foi pré-treinado apenas em dados sintéticos e nunca foi exposto aos conjuntos de dados do Kaggle. Um notebook do Kaggle reproduzível está disponível para revisão pública. Erickson destacou a dificuldade de melhorar de uma classificação de 50 para 10, o que reduziu a perda logarítmica de 0,41 para 0,40, e que o progresso adicional para a pontuação vencedora exigiu 0,018. A versão base do modelo obtém 1866 Elo no TabArena, superando o TabFM+ em 1823 e o AutoGluon 1.6 extreme em 130 Elo em um quinto do tempo. Apesar de ter cerca de 4 vezes mais parâmetros do que o TabPFN-3, o tamanho do cache KV permanece semelhante, e as previsões de uma única linha correspondem à velocidade do TabPFN-3. No entanto, em grandes conjuntos de treinamento, o modelo base executa até 2 vezes mais lentamente do que o TabPFN-3.