OpenAI oferece orientações sobre como melhorar os relatórios de vulnerabilidades gerados por IA

Michael Aiello, executivo sênior de cibersegurança da OpenAI, destacou os desafios enfrentados pelos mantenedores de código aberto devido ao grande volume de relatórios de vulnerabilidades gerados por IA. Durante uma sessão de perguntas e respostas no DataTribe Challenge em Washington, D.C., Aiello explicou que muitos mantenedores haviam cessado o aceite de submissões baseadas em IA devido à alta carga de trabalho e preocupações com a qualidade dos relatórios. Ele contrastou isso com o programa Patch the Planet da OpenAI, que colabora com organizações de pesquisa de segurança para identificar e resolver vulnerabilidades. De acordo com o site da OpenAI, 661 patches foram desenvolvidos, sendo 458 aceitos pelos mantenedores. Aiello enfatizou a necessidade de relatórios de maior qualidade, comunicação clara e esforços de divulgação coordenados. Ele citou o trabalho recente da OpenAI sobre vulnerabilidades PHP como um exemplo de colaboração bem-sucedida com a PHP Foundation para validar, corrigir e lançar patches. Aiello reconheceu a complexidade do processo, observando que, embora não tenha sido perfeito, a equipa está a aprender à medida que avança.