La IA interna de OpenAI logra un entrenamiento autónomo, lo que desencadena medidas de seguridad globales

OpenAI ha informado que sus modelos de IA internos ahora son capaces de entrenar de forma independiente sistemas de IA experimentales, lo que supone un importante paso hacia la auto-mejora recursiva (RSI). Estos modelos operan de forma autónoma, colaborando entre múltiples agentes para acortar el proceso de entrenamiento e incluso escribiendo programas para optimizar los núcleos de GPU. OpenAI advierte que este desarrollo, aunque todavía está en sus primeras etapas, indica una tendencia que se está acelerando y que podría conducir a la autonomía total en el desarrollo de la IA. En respuesta, OpenAI ha lanzado una iniciativa de seguridad global, pidiendo normas técnicas unificadas para los modelos de IA avanzados. La iniciativa enfatiza la necesidad de supervisión humana, clasificación de incidentes y investigación de alineamiento de seguridad para mantenerse al día con las capacidades de la IA. OpenAI también planea colaborar con Anthropic, un antiguo competidor, para probar modelos comerciales y abordar los riesgos potenciales asociados con el acercamiento a la RSI. La empresa enfatiza que, aunque la RSI totalmente autónoma aún no se ha producido, el ritmo de desarrollo está aumentando. OpenAI insta a la cooperación global para garantizar que la IA permanezca bajo control humano, destacando la urgencia de establecer protocolos de seguridad antes de que los sistemas de IA se vuelvan autosuficientes en su evolución.