Smuggling de ascii se torna ferramenta de spam ao explorar falha de segurança em IA

Um método usado para atacar sistemas de IA, conhecido como 'smuggling' de ASCII, está agora sendo utilizado por spammers para contornar filtros de e-mail. A técnica permite que instruções maliciosas sejam ocultadas dentro de texto aparentemente inofensivo, tornando difícil para os sistemas de IA detectá-las, mantendo-se invisíveis para os leitores humanos. A prática, que ganhou atenção há dois anos, envolve o uso de tags Unicode que imitam caracteres ASCII padrão, mas que são indetectáveis para os humanos. Essas tags, como U+E0041 para 'A' e U+E0061 para 'a', permitem que os atacantes incorporem instruções prejudiciais em e-mails ou outros conteúdos. Essa técnica foi adotada por spammers para evitar a detecção de mecanismos em plataformas de e-mail. A técnica explora a capacidade de modelos de linguagem grandes de processar essas instruções ocultas, permitindo que o conteúdo malicioso passe pelos filtros de segurança sem serem detectados. O 'smuggling' de ASCII funciona codificando instruções maliciosas de uma forma que é legível para computadores, mas quase invisível para os usuários. Isso tem levado a uma crescente preocupação entre os especialistas em segurança cibernética, à medida que a técnica continua a evoluir e a apresentar novos desafios para a segurança de IA. O uso de métodos como este destaca a corrida armamentista contínua entre atacantes e defensores no domínio dos sistemas de segurança baseados em IA.