Homem esconde instruções de prompt em documentos judiciais em primeiro caso conhecido de ataque

Um juiz de Connecticut identificou o que parece ser o primeiro caso documentado nos Estados Unidos de um demandante tentando esconder instruções de prompt em documentos legais para manipular análise por sistemas de IA. O texto oculto, formatado para permanecer invisível a leitores humanos enquanto legível para software, instruiu sistemas de IA a ignorar decisões anteriores do tribunal e favorecer argumentos do demandante. O juiz Walter Spader Jr. confirmou que o texto oculto não influenciou o resultado do caso, mas alertou que a tática estabelece um precedente perigoso provável de ser repetido conforme ferramentas de IA se tornem mais comuns em sistemas legais.