Autoridades de saúde do reino unido alertam sobre erros de transcrição de IA em ambientes médicos

Uma entidade reguladora do Reino Unido expressou preocupações sobre os riscos associados às ferramentas de transcrição de IA utilizadas em consultas do NHS, alertando que esses sistemas frequentemente identificam incorretamente termos médicos críticos, o que pode colocar em risco a segurança do paciente. O Healthwatch England relatou vários incidentes em que a IA diagnosticou erroneamente condições e confundiu medicamentos, levando a consequências no mundo real. Um caso envolveu um funcionário do NHS, cuja transcrição gerada por IA rotulou incorretamente como tendo 'deminelinização', uma condição neurológica grave, antes que o erro fosse corrigido. Outro caso envolveu um paciente que identificou uma confusão de medicamentos, que o médico não havia notado. A MHRA não classificou essas ferramentas como dispositivos médicos, deixando a Inglaterra sem um quadro regulatório nacional, apesar de 27 ferramentas já em uso. O Healthwatch enfatizou que erros não detectados podem afetar tratamentos futuros, pois os pacientes frequentemente identificam erros antes dos profissionais de saúde.