OpenAI identifica capacidades críticas de hacking en el modelo Astra

OpenAI reveló que su modelo de IA Astra podría presentar capacidades críticas de hacking que representan un riesgo significativo para la ciberseguridad. La empresa publicó un documento de 29 páginas con un marco de evaluación de riesgos que clasifica las amenazas de ciberseguridad como "Alta" o "Crítica". Astra es el primer modelo de OpenAI que podría recibir la designación "Crítica", basado en pruebas de seguridad recientes que demostraron la capacidad del modelo para encontrar exploits de día cero en sistemas críticos endurecidos del mundo real. Para mitigar los riesgos, OpenAI está implementando restricciones de acceso a internet pública, ejecutando el modelo únicamente en entornos de prueba aislados con permisos limitados de red y herramientas, intensificando el cifrado de los pesos del modelo, y desarrollando mecanismos de observabilidad para monitorear agentes de IA basados en Astra para actividades maliciosas.