Dentro de los laboratorios: investigadores de IA alertan sobre el desarrollo acelerado

Investigadores de IA en laboratorios importantes están advirtiendo cada vez más sobre el rápido desarrollo de sistemas de IA avanzados, lo que indica un cambio desde la crítica externa hacia la preocupación interna. Jacob Coxon, ex investigador de Anthropic, renunció y advirtió públicamente que los laboratorios están corriendo hacia una superinteligencia auto-mejorable, lo que supone un riesgo para la seguridad humana. Su advertencia resonó entre otros investigadores de Anthropic, incluidos Evan Hubinger, Ethan Perez y Samuel Marks, así como Julie Steele y Jasmine Wang de OpenAI. Coxon destacó el concepto de auto-mejora recursiva, en el que los modelos de IA se utilizan para diseñar y optimizar modelos futuros, lo que efectivamente asume partes del proceso de desarrollo. OpenAI informó recientemente que sus agentes de codificación están acelerando la investigación, con 3,1 días de trabajo por agente por día de trabajo humano a mediados de agosto. Anthropic y Google también han notado que los modelos de IA de vanguardia contribuyen al desarrollo de sus sucesores. Estas herramientas, aunque aumentan la productividad para las empresas, también permiten un desarrollo más rápido de modelos de IA dentro de los laboratorios.