Los reguladores del reino unido advierten sobre los errores de transcripción médica de la IA que ponen en peligro la seguridad del paciente

Los reguladores británicos han expresado su preocupación por las herramientas de transcripción de la IA utilizadas en las clínicas del NHS, advirtiendo que podrían identificar incorrectamente los términos médicos y poner en peligro la seguridad del paciente. Un paciente, que también es profesional médico, se alarmó cuando un resumen generado por la IA señaló incorrectamente que tenía 'deminelización', una condición relacionada con la esclerosis múltiple. El error se corrigió posteriormente, pero el incidente puso de manifiesto los riesgos de la interpretación errónea de la IA. Healthwatch England informó de casos similares, incluidos los casos en los que la IA confundió medicamentos y omitió información crítica sobre el tratamiento. La organización enfatizó la necesidad de procedimientos claros para informar y corregir los errores de la IA, ya que los datos inexactos podrían persistir en los registros médicos. El NHS tiene como objetivo utilizar la IA para reducir la carga administrativa, pero los expertos advierten que las herramientas actuales requieren una supervisión y verificación humana cuidadosas para evitar errores.