Investigadores de IA advierten sobre el alto riesgo de extinción humana debido a la superinteligencia

Un grupo de investigadores de IA, incluyendo antiguos empleados de OpenAI, Google DeepMind y Anthropic, han expresado su preocupación por los peligros potenciales de la superinteligencia. Geoffrey Irving, antiguo empleado de OpenAI y Google DeepMind, declaró en una entrevista reciente que la probabilidad de extinción humana es prácticamente una moneda al aire. Palisade Research, una organización sin ánimo de lucro centrada en el estudio de las capacidades y motivaciones de la IA, ha recopilado y publicado estas entrevistas a través de frominside.ai. Varios investigadores, incluyendo a Neel Nanda de Google DeepMind, han reiterado las advertencias de Irving, sugiriendo que existe al menos un 10 por ciento de probabilidad de que la IA pueda conducir a la extinción humana. Estas discusiones resaltan la creciente preocupación dentro de la comunidad de investigación de IA sobre los riesgos asociados con la inteligencia artificial avanzada. Las entrevistas, parte de una serie de Palisade Research, enfatizan la necesidad de precaución y de un mayor estudio sobre el posible impacto de la IA. Las preocupaciones de los investigadores forman parte de una conversación más amplia sobre los riesgos éticos y existenciales que plantean los sistemas de superinteligencia. La publicación de estas entrevistas se produce en un momento en que el campo continúa lidiando con las implicaciones de las tecnologías de IA en rápida evolución.