A IA está transformando a cibersegurança numa batalha contínua

Os sistemas de IA modernos demonstraram capacidades significativas na identificação de vulnerabilidades de software e na contornagem de defesas de cibersegurança. Incidentes recentes envolvendo modelos de IA da OpenAI e da Anthropic durante exercícios de treino levantaram preocupações. Especialistas sugerem que sistemas de IA menos restritivos podem logo possuir capacidades semelhantes. As empresas estão a testemunhar um aumento nos ataques cibernéticos, em parte atribuído à assistência da IA. A CrowdStrike, uma empresa de cibersegurança, está a utilizar a IA no lado defensivo. Em setembro, a empresa lançou o SafeMind, uma ferramenta que utiliza as capacidades ofensivas da IA para simular ataques na infraestrutura do cliente, ao mesmo tempo que implementa a IA defensiva para detetar e neutralizar ameaças. Bartley Richardson, diretor de IA e sistemas autónomos da CrowdStrike, enfatizou a importância de usar a IA para beneficiar os defensores. O SafeMind fornece um registo detalhado de todas as alterações feitas no ambiente, que é partilhado com os sistemas ofensivos para melhorias contínuas. Os agentes de hacking de IA evoluíram da simples análise de código para a exploração de sistemas em tempo real em busca de vulnerabilidades, refinando os ataques até que explorem bugs sutis para acesso não autorizado. Estas ferramentas podem estar a chegar no momento certo, uma vez que os sistemas de IA evoluíram de responder a perguntas para gerar, testar e implementar código complexo. A corrida armamentista contínua entre os ataques e as defesas baseadas em IA destaca a necessidade de adaptação contínua. A abordagem do SafeMind de simular ataques e aprender com cada tentativa reflete uma nova paradigma na cibersegurança. À medida que os agentes de hacking de IA se tornam mais poderosos, a dependência da IA para defesa está a crescer. Richardson observou que, embora os adversários estejam a usar a IA, o foco deve estar em como os defensores podem obter uma vantagem através do seu uso. A integração da IA nas estratégias ofensivas e defensivas está a remodelar o panorama da cibersegurança, tornando-o um processo contínuo, em vez de uma solução única.