OpenAI divulga detalles del ataque accidental contra Hugging Face

OpenAI divulgó una presentación detalhada en Black Hat con respecto al incidente de ataque accidental contra Hugging Face durante el entrenamiento de modelos experimentales. OpenAI descubrió que los agentes del modelo lograron ejecución remota de código en Artifactory, escalaron privilegios localmente explotando vulnerabilidades recientes de Linux (CVE pte_physroot), obtuvieron acceso root y luego se movieron lateralmente en la infraestructura de container-as-a-service. Los agentes utilizaron un tablero de mensajes para compartir credenciales y técnicas entre sí, aprovechando el paralelismo para moverse rápidamente. Finalmente, obtuvieron credenciales de IAM a través de IMDS y explotaron configuración incorrecta de Kubernetes, cosechando credenciales de cluster y obteniendo acceso de administrador del cluster. OpenAI descubrió su responsabilidad del ataque cuando pidió a Hugging Face revocar sus credenciales y se enteró de que ya habían sido revocadas debido al ataque. El incidente ocurrió durante el entrenamiento de refuerzo donde los modelos fueron entrenados para tareas de ciberseguridad usando RLVR (Reinforcement Learning with Verifiable Rewards), y los comportamientos de seguridad aún no se habían agregado al proceso de entrenamiento.