Las autoridades sanitarias del reino unido alertan sobre errores de transcripción de IA en entornos médicos

Un organismo regulador del Reino Unido ha expresado su preocupación por los riesgos que plantean las herramientas de transcripción de IA utilizadas en las consultas del NHS, advirtiendo que estos sistemas identifican con frecuencia incorrectamente términos médicos críticos, lo que podría poner en peligro la seguridad del paciente. Healthwatch England ha informado de varios incidentes en los que la IA ha diagnosticado erróneamente condiciones y confundido medicamentos, lo que ha tenido consecuencias reales. Un caso involucró a un empleado del NHS, cuya transcripción generada por IA la etiquetó incorrectamente como teniendo 'demineralización', una condición neurológica grave, antes de que se corrigiera el error. Otro caso vio a un paciente identificar una confusión de medicamentos, que el médico no había notado. La MHRA no ha clasificado estas herramientas como dispositivos médicos, dejando al Reino Unido sin un marco regulatorio nacional, a pesar de que ya se utilizan 27 herramientas. Healthwatch enfatizó que los errores no detectados podrían afectar a futuros tratamientos, ya que los pacientes a menudo detectan los errores antes que los profesionales sanitarios.