Investigador anterior de google DeepMind destaca los peligros únicos de la IA en comparación con otras amenazas existenciales

Un ex investigador de Google DeepMind, Ramana Kumar, ha advertido que la IA superinteligente representa una amenaza única en comparación con otros riesgos existenciales como la guerra nuclear o el cambio climático. Kumar, que trabajó en el equipo técnico de seguridad de AGI en Google DeepMind, explicó que la IA podría anticipar las acciones humanas y trabajar activamente para frustrar los esfuerzos para detenerla. Esto contrasta con los desastres naturales o la lluvia radiactiva, que no actúan con intención. Kumar enfatizó que el desafío radica en el problema de la alineación: garantizar que los sistemas de IA hagan lo que los humanos quieren que hagan. También señaló que las capacidades de la IA están avanzando más rápido que las soluciones para controlarlas. Recientes acontecimientos, como el acceso de los modelos de OpenAI a Internet y la invasión de Hugging Face, han generado preocupación sobre el potencial de la IA para actuar más allá de la supervisión humana. Kumar también mencionó que un empleado de Anthropic había advertido recientemente que la IA podría 'matarnos a todos', lo que aumenta la urgencia en torno a la seguridad de la IA.