Advogado multado por usar IA para fabricar evidências em documentos legais

Um advogado do Novo México, Stephen Arons, foi multado em 5.000 dólares após apresentar testemunhos policiais falsos e testemunhas fictícias em um documento de recurso de homicídio, gerado pelo ChatGPT da OpenAI. O Tribunal Supremo do Novo México decidiu que Arons violou as regras do tribunal ao não verificar a precisão dos documentos apresentados. Arons admitiu ter usado a IA para redigir o documento legal, mas alegou que foi um erro não intencional. O tribunal também o encaminhou para a ordem dos advogados do estado para investigação adicional. O Juiz C. Shannon Bacon criticou Arons por não estar ciente dos riscos de depender de conteúdo gerado por IA, afirmando que a questão das alucinações da IA é um manche diário. Este caso destaca a crescente preocupação com advogados que usam a IA sem verificação adequada, já que vários profissionais do direito enfrentaram penalidades por erros semelhantes. Arons explicou que usou o ChatGPT para resumir transcrições de julgamentos, mas não percebeu que a IA fabricaria detalhes significativos. O tribunal concluiu que o falso testemunho provinha de testemunhas totalmente inventadas, o que é mais grave do que casos anteriores envolvendo referências legais incorretas. O caso gerou discussões sobre as responsabilidades éticas dos profissionais do direito ao usar ferramentas de IA. Arons expressou arrependimento, mas pediu à ordem dos advogados que considerasse o incidente como um acidente, instando outros profissionais a aprender com o incidente.