Abogados brasileños multados por 16.000 dólares por intentar manipular la IA del tribunal a través de indicaciones ocultas

Un tribunal laboral brasileño multó a dos abogados con aproximadamente 16.000 dólares por intentar manipular las herramientas de IA del tribunal. El profesor Vladimir Aras de la Universidad de Brasilia compartió la sentencia, que encontró que la demanda contenía instrucciones de inyección de indicaciones incrustadas en texto blanco sobre fondo blanco, invisibles a simple vista. Esta técnica implicaba plantar comandos ocultos para dirigir a la IA para que procesara superficialmente la queja y ignorara otras instrucciones. Aunque el tribunal consideró que la acción era perjudicial para la dignidad judicial, la inyección no tuvo efecto ya que el demandado no respondió, lo que llevó a una sentencia predeterminada para el demandante. Ambos abogados han sido denunciados a la asociación de abogados estatal y al departamento interno del tribunal laboral regional. Esto sigue a un incidente anterior en el que otro demandante incrustó una larga indicación oculta, lo que resultó en una sanción más leve y un requisito para futuras presentaciones en formato físico. Por separado, un juez estatal se enfrentó a una demanda federal relacionada con los juicios generados por IA, que el tribunal desestimó citando la inmunidad judicial.