Reguladores do reino unido alertam para erros de transcrição médica por IA que podem colocar em risco a segurança do paciente

Os reguladores britânicos expressaram preocupações sobre as ferramentas de transcrição por IA utilizadas em clínicas do NHS, alertando que podem identificar incorretamente termos médicos e colocar em risco a segurança do paciente. Um paciente, também profissional de saúde, ficou alarmado quando um resumo gerado por IA indicou erroneamente que ela tinha 'deminelinização', uma condição associada à esclerose múltipla. O erro foi posteriormente corrigido, mas o incidente destacou os riscos da interpretação incorreta da IA. A Healthwatch England relatou casos semelhantes, incluindo situações em que a IA confundiu medicamentos e omitiu informações críticas sobre o tratamento. A organização enfatizou a necessidade de procedimentos claros para relatar e corrigir erros da IA, pois dados imprecisos podem persistir nos registros médicos. O NHS visa utilizar a IA para reduzir a carga administrativa, mas especialistas alertam que as ferramentas atuais exigem supervisão e verificação humana cuidadosas para evitar erros. Rachel Power, CEO da British Patients Association, enfatizou a importância da confiança e da transparência nos sistemas de IA. Enquanto isso, a MHRA não classificou as ferramentas de transcrição por IA como dispositivos médicos, levantando preocupações sobre a falta de supervisão regulatória. Médicos como Shier Ziser Dawood alertaram sobre 'alucinações da IA', onde as ferramentas fabricam informações que não estão presentes nas consultas. Estudos sugerem que os erros da IA são mais prováveis em casos complexos ou pacientes que não falam inglês, no entanto, muitos médicos ainda confiam mais nos registros gerados por IA do que em suas próprias anotações.