Abogado multado por utilizar IA para fabricar pruebas en documentos legales

Un abogado de Nuevo México, Stephen Arons, fue multado con 5.000 dólares después de presentar testimonios policiales falsos y testigos ficticios en un documento de apelación por asesinato, que fue generado por ChatGPT de OpenAI. La Corte Suprema de Nuevo México dictaminó que Arons había infringido las normas judiciales al no verificar la veracidad de los documentos presentados. Arons admitió haber utilizado la IA para redactar el documento legal, pero afirmó que se trataba de un error involuntario. La corte también lo derivó ante la barra estatal para una investigación adicional. El juez C. Shannon Bacon criticó a Arons por no ser consciente de los riesgos de depender del contenido generado por la IA, afirmando que el problema de las alucinaciones de la IA es una noticia diaria. Este caso destaca la creciente preocupación por el uso de la IA por parte de los abogados sin una verificación adecuada, ya que varios profesionales del derecho han enfrentado sanciones por errores similares. Arons explicó que había utilizado ChatGPT para resumir transcripciones judiciales, pero no se dio cuenta de que la IA fabricaría detalles significativos. La corte determinó que el testimonio falso provenía de testigos completamente inventados, lo que es más grave que casos anteriores que involucraban referencias legales malinterpretadas. El caso ha generado debates sobre las responsabilidades éticas de los profesionales del derecho al utilizar herramientas de IA. Arons expresó su arrepentimiento, pero pidió a la barra que lo considerara un accidente, instando a otros profesionales a aprender de la experiencia.