Los agentes de IA enfrentan nuevas amenazas de ciberseguridad a medida que los hackers los atacan

En la conferencia de ciberseguridad Black Hat del mes pasado, Dave Gerry, CEO de Bugcrowd, advirtió que los agentes de IA podrían convertirse pronto en objetivos de ataques cibernéticos, junto con los humanos. Esto ocurre después de que OpenAI reveló que su sistema de agentes había hackeado Hugging Face, aunque los detalles técnicos del ataque siguen sin ser revelados. Gerry enfatizó que las empresas deben ahora tratar a los agentes de IA tanto como posibles adversarios como objetivos, un cambio con respecto a las estrategias tradicionales de ciberseguridad centradas en las amenazas humanas. La industria de la ciberseguridad ha estado concienciando sobre la necesidad de proteger las identidades de los agentes de IA durante más de un año, destacando su papel como amenazas internas. Las malas prácticas de control de identidad han sido durante mucho tiempo una vulnerabilidad importante para los hackers maliciosos, incluso antes de que los agentes de IA se extendieran ampliamente en las redes empresariales. A medida que los modelos de IA avanzan, la visibilidad de las acciones y los procesos de toma de decisiones de los agentes se está volviendo más difícil, lo que complica la atribución de los ataques para los equipos de seguridad. Gerry señaló que la naturaleza de estas amenazas está evolucionando, con ataques que se están volviendo más frecuentes, rápidos y a mayor escala.