O cenário em evolução da segurança de agentes de IA

Os agentes de IA estão sendo cada vez mais integrados nas operações empresariais, realizando tarefas como navegação na web, codificação e interações com APIs. Essa integração traz ganhos significativos de produtividade, mas também introduz novos desafios de segurança. As empresas devem agora proteger não apenas usuários e dispositivos, mas também os atores de software que atuam em seu nome. Esses agentes exigem permissões, monitoramento e governança para garantir ações autorizadas. À medida que as empresas evoluem de experimentos com alguns agentes para a implantação de centenas, a identidade do agente se torna uma camada crítica de segurança cibernética. Ao contrário dos usuários tradicionais, os agentes podem se mover entre sistemas e tomar decisões, complicando o controle. É improvável que o mercado se consolide em uma única categoria chamada 'segurança de IA'. Em vez disso, as oportunidades residem em pontos de controle específicos. As empresas estão abordando diferentes aspectos, como a identidade do agente, o acesso a dados e a segurança do tráfego. A Kiteworks adquiriu a Bonfy.AI, com foco na classificação de dados em tempo real, enquanto a Huskeys, uma startup de segurança cibernética, arrecadou US$ 27 milhões para proteger o tráfego da internet complexo. Esses desenvolvimentos destacam o surgimento de camadas de segurança distintas. Os empreendedores são aconselhados a se concentrarem em capacidades específicas, em vez de uma posição ampla de 'segurança de IA'.