OpenAI aconseja sobre cómo mejorar los informes de vulnerabilidades generados por IA

Michael Aiello, el ejecutivo de ciberseguridad de OpenAI, destacó los desafíos que enfrentan los mantenedores de código abierto debido al gran volumen de informes de vulnerabilidades generados por IA. Durante una sesión de preguntas y respuestas en el DataTribe Challenge en Washington, D.C., Aiello explicó que muchos mantenedores habían dejado de aceptar las contribuciones basadas en IA debido a la alta carga de trabajo y las preocupaciones sobre la calidad de los informes. Lo contrasta con el programa Patch the Planet de OpenAI, que colabora con organizaciones de investigación de seguridad para identificar y solucionar vulnerabilidades. Según el sitio web de OpenAI, se han desarrollado 661 parches, y 458 han sido aceptados por los mantenedores. Aiello enfatizó la necesidad de informes de mayor calidad, comunicación clara y esfuerzos de divulgación coordinados. Citó el reciente trabajo de OpenAI sobre vulnerabilidades de PHP como un ejemplo de colaboración exitosa con la PHP Foundation para validar, solucionar y publicar parches. Aiello reconoció la complejidad del proceso, señalando que, aunque no fue perfecto, el equipo está aprendiendo a medida que avanza.