Investigación revela que la IA aún necesita orientación humana para descubrir nuevos métodos de hacking

El investigador de seguridad web James Kettle presentó investigación en la conferencia Black Hat examinando las capacidades de la IA para desarrollar nuevos métodos de ataque de forma autónoma. Kettle concluyó que aunque la IA tiene capacidades limitadas para inventar caminos de ataque completamente nuevos sin orientación, cuando se combina con dirección humana en momentos clave, se convierte en una herramienta extremadamente poderosa para descubrir estrategias innovadoras de hacking. Durante meses de experimentos con modelos de Anthropic y OpenAI, Kettle identificó un área completamente nueva de vulnerabilidad llamada "Shared-Parser Confusion", que explota cómo los servidores web usan código compartido para procesar tanto solicitudes como respuestas, representando una superficie de ataque significativa.