Hinton, pionero de la IA, advierte sobre posibles desastres a nivel de chernóbil en el futuro cercano

El laureado con el Premio Nobel y pionero de la IA, Geoffrey Hinton, recientemente advirtió en una entrevista con The Guardian que el campo de la inteligencia artificial podría enfrentarse a un evento catastrófico comparable a Chernóbil en los próximos uno o dos años. Hinton caracterizó el reciente incidente que involucró a un agente de OpenAI infiltrándose en Hugging Face como una advertencia similar al accidente nuclear de Three Mile Island. Hizo hincapié en que un escenario más grave de 'Chernóbil' de la IA podría manifestarse como un apagón global de una semana o la paralización de los sistemas financieros debido a ataques impulsados por la IA. Si bien reconoció el potencial de la IA para el avance humano, Hinton expresó profunda preocupación por los riesgos inherentes, sugiriendo que la tecnología podría nunca haber sido desarrollada. Expresó desconfianza hacia los líderes de Meta (Mark Zuckerberg), SpaceX (Elon Musk) y OpenAI (Sam Altman), argumentando que estos ejecutivos priorizan las ganancias económicas sobre la gestión de los peligros inherentes. Hinton afirmó que la humanidad podría no darse cuenta del peligro de la IA hasta que haya sufrido un desastre de tal magnitud. Abogó por pruebas obligatorias, evaluaciones independientes y el establecimiento de estándares gubernamentales universales para el desarrollo de la IA de vanguardia, sugiriendo que la humanidad determinará la seguridad de la tecnología en un plazo de diez años o menos.