El discurso sobre los riesgos de la IA se intensifica a medida que los expertos advierten sobre amenazas existenciales

Jacob Coxon, ex investigador de Anthropic, ha generado preocupación sobre el riesgo de extinción que la inteligencia artificial podría representar para la humanidad en los próximos años. Coxon, que pasó tres años investigando en Anthropic y OpenAI, ha estado promoviendo sus advertencias desde su renuncia, enfatizando que una explosión de inteligencia—donde los sistemas de IA crean versiones más avanzadas que podrían superar la inteligencia humana—podría conducir a resultados catastróficos, incluyendo la sabotaje de la infraestructura o el desarrollo de armas biológicas. El Fondo Monetario Internacional ha reunido a expertos en tecnología y finanzas para explorar cómo las interrupciones relacionadas con la IA podrían desencadenar inestabilidad económica a nivel mundial. En medio de estas discusiones, está surgiendo un vocabulario cada vez mayor de términos relacionados con los riesgos de la IA, con el objetivo de aclarar el complejo panorama de las posibles amenazas. Evan Hubinger, líder de ciencia de alineamiento en Anthropic, declaró que existe una probabilidad mayor al 10% de que ocurra una amenaza existencial en los próximos diez años.