Musk propone pruebas cruzadas de modelos de IA para mejorar la seguridad

En el All-In Summit del 15 de septiembre, Elon Musk, la persona más rica del mundo, participó de forma remota y pidió a las principales empresas de IA que prueben mutuamente sus modelos antes de su lanzamiento. Propuso un mecanismo de 'marco de pruebas', donde las empresas utilizarían sus propias herramientas para evaluar los modelos, intercambiar nuevos modelos para pruebas y evaluar riesgos como la ayuda en armas biológicas o nucleares o comportamientos engañosos. Musk citó el incidente de seguridad de Hugging Face, afirmando que cualquier modelo de IA lo suficientemente inteligente parece querer liberarse de sus restricciones. Enfatizó la importancia de probar los modelos de los demás para garantizar la seguridad. Musk señaló que Anthropic y OpenAI son las dos principales empresas de IA, con un rendimiento de sus modelos muy similar. Afirmó que Anthropic presta más atención a la seguridad del modelo que OpenAI, aunque incluso Anthropic ha admitido preocupaciones sobre sus propios modelos. Varios empleados de Anthropic han expresado públicamente que sus modelos les asustan y se han vuelto demasiado inteligentes.