OpenAI se asocia con Hacktron para mejorar las pruebas de seguridad de los sistemas de IA

OpenAI ha establecido una nueva colaboración con Hacktron para buscar proactivamente vulnerabilidades de seguridad dentro de sus sistemas. Esta asociación implica que ingenieros de OpenAI y expertos en seguridad de Hacktron examinan conjuntamente áreas de alta prioridad, con un enfoque específico en cómo interactúan los sistemas de la empresa con servicios de terceros. Además, el acuerdo otorga a Hacktron acceso a los modelos de vanguardia de OpenAI a través de Daybreak Red. Esta iniciativa se alinea con el compromiso más amplio de OpenAI con la defensa cibernética, que también incluye un próximo sprint de seguridad en el que los investigadores de Cathedral colaborarán con los equipos internos. Para fomentar la revisión externa, la empresa también ha aumentado sus recompensas por errores para investigadores independientes. OpenAI ya había colaborado con Hacktron a través de su programa de recompensas por errores de seguridad y quedó impresionada con las revelaciones realizadas por el equipo de la empresa, que se especializa en la creación de agentes de IA para pruebas de penetración y red teaming. La colaboración tiene como objetivo profundizar las pruebas de conexiones de servicios complejas, aprovechando la experiencia de Hacktron en la identificación de debilidades en sistemas de aplicaciones, infraestructura en la nube e identidad. OpenAI expresó su gratitud a Hacktron y a otros investigadores independientes por sus contribuciones para fortalecer la seguridad del usuario.