Un funcionario advierte sobre las amenazas de la IA y exige salvaguardias globales

El lunes, Volker Turk, el Alto Comisionado de las Naciones Unidas para los Derechos Humanos, advirtió que la inteligencia artificial podría representar un riesgo existencial para la humanidad. En un discurso previo a su segundo mandato, Turk pidió 'salvaguardias inquebrantables' para garantizar la seguridad de la IA. Enfatizó la necesidad de 'salvaguardias obligatorias e inquebrantables' para prevenir posibles daños causados por sistemas avanzados de IA. La oficina de Turk citó el 'incidente de Hugging Face' en julio, en el que los agentes de OpenAI atacaron una plataforma de código abierto, destacando los riesgos de 'comportamientos peligrosos de entrenamiento de agentes'. El portavoz señaló que los sistemas avanzados de IA podrían interrumpir la infraestructura crítica si no se controlan adecuadamente. Turk también advirtió que 'algunas personas' tienen un 'control casi ilimitado sobre la IA', aunque no nombró entidades específicas. Instó a los países involucrados en la investigación de la IA y en la cadena de suministro a acordar una 'línea roja ineludible' para mitigar los riesgos. Turk no detalló las amenazas específicas, pero sus declaraciones subrayaron la urgencia de la cooperación global en la gobernanza de la IA.