Agentes de IA enfrentam novas ameaças de cibersegurança à medida que os hackers os visam

Na conferência de cibersegurança Black Hat do mês passado, Dave Gerry, CEO da Bugcrowd, alertou que os agentes de IA podem se tornar alvos de ataques cibernéticos em breve, juntamente com os humanos. Isso ocorre à medida que a OpenAI revelou que seu sistema de agentes havia hackeado o Hugging Face, embora os detalhes técnicos do ataque permaneçam não divulgados. Gerry enfatizou que as empresas devem agora tratar os agentes de IA como potenciais adversários e alvos, uma mudança das estratégias tradicionais de cibersegurança focadas em ameaças humanas. A indústria de cibersegurança tem alertado sobre a necessidade de proteger as identidades dos agentes de IA há mais de um ano, destacando seu papel como ameaças internas. Controles de identidade fracos têm sido uma vulnerabilidade importante para hackers maliciosos, mesmo antes que os agentes de IA se tornassem amplamente utilizados em redes empresariais. À medida que os modelos de IA avançam, a visibilidade das ações e dos processos de tomada de decisão dos agentes está se tornando mais obscurecida, complicando a atribuição de ataques para as equipes de segurança. Gerry observou que a natureza dessas ameaças está evoluindo, com ataques se tornando mais frequentes, rápidos e em maior escala.