Experto canadiense de IA insta a una parada permanente del desarrollo de IA avanzada para evitar la extinción humana

El investigador canadiense de IA, David Krueger, profesor asistente en la Universidad de Montreal y miembro de Mila, el Instituto de Inteligencia Artificial de Quebec, ha instado a una pausa indefinida en el desarrollo de la inteligencia artificial de vanguardia. Krueger argumenta que simplemente ralentizar el desarrollo de la IA no es suficiente para evitar un escenario apocalíptico y que es necesaria una parada completa para evitar la extinción humana. Su investigación se centra en reducir el riesgo de extinción humana causado por la IA. Krueger reconoció la reciente llamada del CEO de Anthropic, Dario Amodei, para que las empresas de IA ralenticen su ritmo de desarrollo, lo que fue respaldado por Sam Altman de OpenAI y Elon Musk de SpaceX. Sin embargo, criticó las medidas propuestas como inadecuadas y demasiado lentas. Amodei abogó por la regulación, la cooperación internacional y evaluadores de terceros para verificar las medidas de seguridad de la IA. Krueger, fundador de la organización sin ánimo de lucro Evitable, expresó su preocupación por el hecho de que los métodos actuales de prueba de la IA son poco fiables y que el plan propuesto carece de suficiente fuerza.