Científico de OpenAI aborda las preocupaciones sobre la transparencia de los modelos de IA

El 2 de septiembre, Jakub Pachocki, el científico jefe de OpenAI, respondió a las preocupaciones sobre la 'opacidad' del razonamiento de los modelos de IA, particularmente con respecto a su nuevo modelo Astra. Pachocki afirmó que la profundidad computacional de Astra no es mayor que el doble de GPT-4, lo que indica que no hay un aumento significativo en la complejidad del modelo. Enfatizó que OpenAI sigue comprometido con mejorar las herramientas de supervisión para el razonamiento del modelo, considerándolo un área clave de investigación. La controversia se originó en un informe de The Information, que destacó las pruebas de 'tecnología de profundidad recurrente' de OpenAI. Este enfoque permite que los modelos apliquen repetidamente las mismas capas de red, lo que potencialmente dificulta la interpretación de los estados internos. Pachocki advirtió que, si bien las herramientas de supervisión actuales son frágiles, se están realizando esfuerzos para fortalecerlas. El debate ha generado discusiones en la comunidad de IA sobre las implicaciones para la transparencia del modelo.