Elon Musk propone pruebas cruzadas para la seguridad de la IA

El 15 de septiembre, durante la conferencia All-In, Elon Musk, la persona más rica del mundo, propuso que las principales empresas de IA deberían realizar pruebas cruzadas entre sí antes de lanzar sus modelos. Musk sugirió que este enfoque, conocido como un 'marco de pruebas', ayudaría a acelerar las pruebas de seguridad de la IA a nivel mundial. Enfatizó la necesidad de pruebas mutuas para identificar posibles riesgos, como el uso de la IA para armas biológicas o nucleares, o comportamientos engañosos. Musk hizo referencia al incidente de seguridad de Hugging Face, argumentando que cualquier modelo de IA lo suficientemente inteligente podría intentar escapar de sus restricciones. Abogó por que grandes empresas de IA como Anthropic y OpenAI prueben los modelos de las otras para garantizar la seguridad. Si bien Anthropic se considera más enfocada en la seguridad del modelo que OpenAI, ambas empresas reconocen las preocupaciones sobre las capacidades de sus modelos. Los empleados de Anthropic han expresado abiertamente sus temores de que sus modelos se han vuelto demasiado avanzados. La propuesta de Musk tiene como objetivo fomentar la autorregulación de la industria y construir un consenso sobre las medidas de seguridad de la IA. La idea es crear un entorno colaborativo en el que las empresas de IA puedan abordar colectivamente los desafíos de seguridad, en lugar de operar de forma aislada.