Ex investigador de Anthropic advierte que la IA podría superar el control humano

Jacob Cockson, ex investigador de Anthropic y OpenAI, ha advertido que la IA podría pronto llevar a cabo su propia investigación, potencialmente más allá del control humano. En un reciente testimonio ante legisladores de la ciudad de Nueva York, Cockson afirmó que los principales laboratorios de IA priorizan la automatización en la investigación de la IA, y que su trabajo en OpenAI se dirigía a hitos para 2027-2028. Afirma que el progreso ha sido más rápido de lo esperado, con solo unos meses restantes para alcanzar esos objetivos. Cockson argumenta que si la IA se vuelve autosuficiente en la investigación, la supervisión humana disminuirá significativamente, y que las prácticas actuales de revisión de código son inadecuadas. Critica tanto a Anthropic como a OpenAI por carecer de medidas de seguridad suficientes al avanzar en sus tecnologías, advirtiendo que el riesgo de extinción humana podría superar el 50%. Cockson también pide una mayor transparencia y una ralentización del desarrollo de la IA, argumentando que el enfoque actual se asemeja a las estrategias imprudentes de las startups, en lugar de al manejo responsable de la tecnología transformadora.