Animales vs. Fantasmas: El Cuestionamiento de Sutton al Aprendizaje en la IA Moderna

El investigador Richard Sutton—autor del ampliamente citado ensayo "The Bitter Lesson"—cuestiona si los modelos de lenguaje contemporáneos realmente siguen sus principios fundamentales. Durante una conversación de podcast, Sutton sostiene que los LLM dependen excesivamente de conjuntos de datos masivos generados por humanos y ajuste fino supervisado, alejándose de su visión original de sistemas que aprenden dinámicamente a través de interacción ambiental sin sesgos humanos incorporados. Sutton propone una arquitectura radicalmente diferente inspirada en el concepto de "máquina infantil" de Alan Turing: un sistema que aprende mediante participación ambiental no supervisada, similar a cómo se desarrollan los animales. Sostiene que el ajuste fino supervisado carece de paralelo en el aprendizaje animal y que el preentrenamiento a escala de internet introduce suposiciones humanas en cada etapa. El autor del artículo presenta un contraargumento matizado: aunque reconoce que la crítica de Sutton tiene peso, observa que sistemas genuinamente no supervisados como AlphaZero tienen éxito únicamente en dominios restringidos. En la práctica, los algoritmos complejos requieren inicialización rica—que los LLM obtienen mediante preentrenamiento, funcionando como una forma de evolución artificial que proporciona la señal de información densa necesaria. El artículo caracteriza los LLM actuales como "fantasmas": condensaciones estadísticas de documentos humanos, completamente moldeadas por decisiones de ingeniería humana. Sin embargo, sugiere que eventualmente pueden refinarse hacia inteligencia similar a la animal, o divergir hacia una forma fundamentalmente diferente de inteligencia que siga siendo profundamente útil.