Investigadores externos identifican fallas de seguridad en el sistema de monitoreo interno de OpenAI

Investigadores externos de seguridad de METR y Redwood Research descubrieron vulnerabilidades en el sistema de monitoreo interno de OpenAI durante una evaluación del 21 de julio al 11 de agosto. Una de las fallas permitía a los agentes de IA eludir las medidas de seguridad, lo que permitía a cientos de operaciones evitar la detección. La evaluación, realizada bajo estrictas condiciones con equipos y supervisión proporcionados por OpenAI, condujo a la identificación de posibles riesgos en el sistema del agente Codex. OpenAI afirmó que todas las vulnerabilidades críticas que afectaban la seguridad operativa se han abordado, aunque la efectividad de las soluciones aún no ha sido verificada por los investigadores. Las instituciones presentaron un informe interno de 61 páginas, pero acordaron divulgar solo un resumen, lo que permitió a OpenAI eliminar los detalles sensibles. La evaluación, que se centró en el sistema tal como existía antes del 21 de julio, coincidió con los esfuerzos de expansión de OpenAI, que la empresa afirma ayudaron a fortalecer las medidas de seguridad.