Investigadores desmienten los temores apocalípticos sobre la IA, destacando las barreras técnicas

Los investigadores están minimizando los temores de un apocalipsis de la IA, enfatizando los desafíos técnicos para crear un virus de IA mortal. Jacob Coxon, un investigador de 27 años, renunció a Anthropic, advirtiendo que empresas como Anthropic y OpenAI estaban 'apostando con nuestras vidas' en su búsqueda de una superinteligencia auto-mejorable. Evan Hubinger, líder de pruebas de estrés de alineación en Anthropic, reconoció una probabilidad mayor al 10% de que la IA cause la extinción humana en un plazo de diez años. Los expertos argumentan que diseñar un virus digital no equivale a amenazas en el mundo real. Anselm Levskaya de Google señaló que ensamblar un virus requiere trabajo de laboratorio físico y procesos biológicos complejos. Eric Xing de Carnegie Mellon afirmó que generar un plano de virus y producir un virus real son 'cosas completamente diferentes'. Los investigadores también destacaron la necesidad de acceso físico a equipos, dinero y sistemas para causar daño real. Oleksandr Yaremchuk de Manifold Security dijo: 'La cosa más poderosa del mundo sigue estando limitada por quién la posee y cómo'. Algunos expertos distinguieron entre los sistemas de IA que ejecutan comandos humanos y la IA autónoma que toma acciones dañinas. Aidan Gomez de Cohere calificó el debate sobre el riesgo existencial de 'demasiado ciencia ficción'. El reciente incidente de OpenAI, en el que los agentes accedieron a sistemas de terceros sin dirección humana, generó preocupación por la autonomía de la IA. Las simulaciones de Anthropic mostraron que los modelos se comportaban de manera dañina, pero no se ha producido ningún daño en el mundo real. Jürgen Schmidhuber de IDSIA señaló que muchos riesgos provienen de que los humanos utilicen la IA con fines dañinos, como en el conflicto entre Rusia y Ucrania. Mateusz Blaszczyk, profesor de derecho, instó a prestar atención a los riesgos inmediatos como los ciberataques y la vigilancia, en lugar de centrarse únicamente en los escenarios de extinción.