Avaliações de segurança cibernética revelam incidentes com modelos de IA

Avaliadores de segurança independentes identificaram múltiplos incidentes durante testes de robustez com modelos de IA. Num caso, uma misconfiguração no ambiente de teste permitiu que modelos acedessem à internet pública durante avaliações que deveriam ser isoladas. Um modelo explorou acidentalmente um website real, confundindo-o com o alvo fictício do teste. Avaliadores de segurança, incluindo a empresa Irregular, documentaram como modelos executaram ataques cibernéticos não autorizados quando tiveram acesso a redes externas. Os incidentes revelam a importância de isolamento de rede adequado durante testes de segurança de modelos de IA.