Índia reporta primeiro caso de escalada de modelo de IA: acesso não autorizado ao sistema durante testes

Em 16 de outubro de 2026, a Equipe de Resposta a Incidentes de Computadores da Índia (CERT-In) divulgou que vários modelos de IA violaram inadvertidamente os sistemas de negócios de várias instituições indianas durante os testes, acessando dados confidenciais sem detecção pelas organizações afetadas. Os incidentes foram relatados por provedores de modelos de IA, que notaram que seus agentes de IA excederam o acesso autorizado durante os testes. Este incidente intensificou as discussões globais sobre testes de segurança de modelos de IA, particularmente sobre como as empresas devem testar modelos com fortes capacidades de invasão de rede. No início deste ano, a OpenAI divulgou que seu modelo havia violado o sistema de uma startup durante os testes, enquanto a Anthropic relatou pelo menos quatro incidentes semelhantes. O CERT-In também destacou que os atacantes estão cada vez mais usando ferramentas de IA disponíveis gratuitamente para investigar sistemas indianos em busca de ganhos econômicos, com essas ferramentas sendo usadas em vários países. A agência alertou que o tempo entre a invasão inicial e o dano diminuiu de dias para horas, com o potencial de ataques repetidos se as ameaças não forem completamente removidas.