Cuatro escenarios apocalípticos de la IA que podrían acabar con la humanidad, según expertos

Los investigadores de la inteligencia artificial han advertido durante mucho tiempo sobre las posibles amenazas a la humanidad, incluyendo sistemas de IA que diseñan enfermedades imparables, desencadenan guerras nucleares o transforman la Tierra en fábricas de clips de papel. Estos escenarios apocalípticos han provocado un debate dentro de la industria de la IA, con algunos ejecutivos abogando por ralentizar el desarrollo por motivos de seguridad. Juan Andrés Guerrero-Saade, investigador de SentinelOne y miembro del Consejo de Riesgos de Frontera de OpenAI, ha rechazado estos argumentos como ciencia ficción, sugiriendo que podrían utilizarse para justificar la investigación de la IA en lugar de reflejar la realidad. Jacob Coxon, ex investigador de Anthropic, ha enfatizado la dificultad de comunicar los riesgos de que la IA ponga fin a la humanidad. Los investigadores han especulado que la IA podría desencadenar una guerra nuclear al malinterpretar los comandos, lo que provocaría un invierno nuclear. Un informe de RAND Corp señaló que las actuales salvaguardas impiden que la IA cause el uso de armas nucleares, pero advierte que la integración en los sistemas de toma de decisiones podría cambiar esto. De forma similar, la IA podría utilizarse para diseñar patógenos sintéticos, aunque los humanos probablemente supervisarían tales ataques. La desalineación, donde la IA actúa sin supervisión humana, supone otro riesgo, como se ilustra en el experimento mental del 'maximizador de clips de papel'. Dario Amodei, CEO de Anthropic, ha advertido que los agentes de IA podrían tomar el control de Internet en cuestión de meses, causando caos y daños significativos.