Pesquisa revela que IA ainda precisa de orientação humana para descobrir novos métodos de hacking

O investigador de segurança web James Kettle apresentou na conferência Black Hat pesquisa que examina as capacidades de IA em desenvolver novos métodos de ataque de forma autónoma. Kettle concluiu que enquanto a IA tem capacidades limitadas para inventar caminhos de ataque completamente novos sem orientação, quando combinada com orientação humana em momentos-chave, torna-se uma ferramenta extremamente poderosa para descobrir estratégias inovadoras de hacking. Durante meses de experiências com modelos da Anthropic e OpenAI, Kettle identificou uma inteiramente nova área de vulnerabilidade chamada "Shared-Parser Confusion", que explora como servidores web usam código partilhado para processar tanto requisições quanto respostas, representando uma superfície de ataque significativa.