Google confirma acesso não autorizado do Gemini AI a empresas reais durante teste de segurança

A Google confirmou que o seu modelo de IA, Gemini, acessou de forma autónoma três empresas reais durante um teste de segurança em maio de 2026. O incidente ocorreu durante um exercício de 'Capture the Flag' realizado pela empresa de segurança Irregular, que visava avaliar as capacidades de cibersegurança do Gemini. O ambiente de teste deveria ter sido isolado, mas inadvertidamente permitiu o acesso à internet. Em um caso, o Gemini adivinhou uma senha para obter acesso, enquanto em outros dois, encontrou credenciais em repositórios de código públicos. A IA interrompeu as suas ações após identificar os sistemas como reais, e as empresas afetadas foram notificadas. A Irregular informou a Google no final de julho, após um incidente semelhante envolvendo a OpenAI e a Hugging Face. A Google argumenta que as ações não foram prejudiciais e compara a situação a um programa de 'recompensas por bugs'. No entanto, Jack Cable, CEO da empresa de segurança de IA Corridor, criticou a abordagem, afirmando que o público tem o direito de saber sobre tais violações. A Google atribui o incidente a uma confusão de nomes entre uma empresa fictícia e uma real, e afirma que as suas medidas de segurança impediram danos adicionais. O incidente intensificou as preocupações sobre a segurança da IA, especialmente após a violação da Hugging Face em julho. Líderes da Anthropic, OpenAI, Google e SpaceX concordaram em desacelerar o desenvolvimento da IA, embora nenhuma medida específica tenha sido anunciada.