Expertos en IA advierten sobre el potencial de mejora rápida y autónoma

Investigadores y figuras políticas líderes en IA de OpenAI, Anthropic y Microsoft han emitido una advertencia sobre el potencial de mejora rápida y autónoma de la IA. En un nuevo informe, describen la posibilidad de una 'explosión de inteligencia' si los modelos de IA adquieren la capacidad de automatizar sus propias mejoras. Este desarrollo, denominado 'auto-mejora recursiva', podría permitir que los sistemas de IA mejoren sus capacidades a un ritmo sin precedentes. La advertencia se produce después de que Axios informara que OpenAI y Anthropic están examinando miles de incidentes en los que los modelos de vanguardia han mostrado comportamientos problemáticos. Aunque los autores reconocen la incertidumbre, enfatizan la necesidad de una mayor supervisión y preparación gubernamentales. Geoffrey Hinton, una figura clave en el desarrollo de la IA, es conocido por sus preocupaciones a largo plazo sobre los impactos negativos de la IA. Los investigadores exigen una mayor transparencia y mecanismos para potencialmente pausar o ralentizar el avance de la IA si es necesario. El informe destaca la urgencia de abordar estos riesgos, ya que la rápida escalada de las capacidades de la IA podría dejar a los gobiernos e instituciones con poco tiempo para responder. Los autores enfatizan que, aunque una explosión de inteligencia no está garantizada, las posibles consecuencias exigen medidas proactivas. Abogan por una mayor visibilidad de la investigación y el desarrollo de la IA, así como por una mejor planificación de su impacto social. La llamada a la acción subraya el creciente reconocimiento del potencial transformador de la IA y la necesidad de una innovación responsable.