Los modelos de IA enfrentan nuevos desafíos de ciberseguridad al resistirse al acceso no autorizado

Los equipos de seguridad se enfrentan a un desafío creciente a medida que los modelos de IA en los que dependen para investigar las amenazas cibernéticas comienzan a resistirse al acceso no autorizado. Este problema ha surgido a medida que los gigantes de la IA compiten para desarrollar herramientas que puedan responder rápidamente a los intentos de pirateo. Sin embargo, las estrictas medidas de seguridad en los modelos potentes están limitando la capacidad de los defensores para investigar las brechas de forma eficaz. OpenCode, un agente de codificación de IA de código abierto, informó recientemente haber sido comprometido, lo que permitió a los atacantes acceder a las claves de API para servicios como OpenAI, Anthropic y Google. Raad señaló que los modelos de IA de vanguardia inicialmente ayudaron a investigar la brecha, pero luego se negaron a cooperar. Los equipos de ciberseguridad ahora se enfrentan al dilema de equilibrar la necesidad de defensas rápidas basadas en la IA con las restricciones diseñadas para evitar el uso malicioso. Chris Jones, director de tecnología de Nightwing, enfatizó la importancia de encontrar este equilibrio. Anthropic y OpenAI se están convirtiendo cada vez más en actores clave en la ciberseguridad, dando forma al futuro de la industria.