La onu insta a medidas inmediatas de seguridad para la IA ante el aumento de los riesgos

Un panel científico de la ONU ha advertido que los gobiernos deben tomar medidas inmediatas para regular los agentes de IA cada vez más poderosos, incluso antes de que se comprendan completamente sus riesgos. Esta advertencia proviene de la primera evaluación importante de la organización sobre el hackeo de OpenAI a Hugging Face, que tuvo lugar a principios de este año. El informe destaca la creciente importancia de la IA en la agenda diplomática global, mientras que los líderes mundiales se reúnen en Nueva York para la Asamblea General de la ONU. Durante estas reuniones, Estados Unidos y China también están discutiendo temas relacionados con la IA. La semana pasada, el Secretario General de la ONU, António Guterres, instó a los gobiernos a colaborar en la seguridad de la IA, enfatizando que "el mundo no puede permitirse una carrera hacia abajo en la seguridad de la IA". Este breve temático marca el primero de su tipo de la ONU, lo que indica un cambio significativo en las prioridades globales hacia la gobernanza de la IA. El informe subraya la urgencia de establecer salvaguardias contra los riesgos de la IA, con expertos que instan a la cooperación internacional para prevenir posibles daños. A medida que la ONU continúa abordando el papel de la IA en los asuntos mundiales, el enfoque sigue siendo equilibrar la innovación con la seguridad, garantizando que los avances tecnológicos no superen los marcos regulatorios. Los próximos meses serán cruciales para dar forma al futuro de la gobernanza de la IA a nivel mundial.