El departamento de asilo del gobierno del reino unido bajo la lupa por el uso de la IA en las decisiones

Un organismo de control del gobierno del Reino Unido está considerando una investigación sobre el uso de herramientas de IA generativa por parte del departamento de asilo para la toma de decisiones, citando preocupaciones sobre la precisión y la confidencialidad. El Inspector Independiente de Fronteras e Inmigración (ICIBI) ha solicitado más información al Open Rights Group (ORG), que llevó a cabo una revisión de seis meses. El departamento de asilo utiliza Asylum Case Summarisation (ACS) y Asylum Policy Search (APS), basados en el modelo GPT-4 de OpenAI, para resumir entrevistas y políticas de país. Un portavoz del departamento de asilo dijo que las herramientas de IA ayudan, pero no reemplazan a los tomadores de decisiones humanos. Investigadores y activistas, incluyendo al diputado laborista Bell Ribeiro-Addy, han expresado preocupaciones sobre la precisión de la IA, especialmente en casos de alto riesgo. ORG encontró que las resúmenes inadecuados eran superiores al 9% de error publicado. El departamento de asilo no ha informado a los solicitantes de asilo sobre el uso de las herramientas, lo que plantea preocupaciones sobre los derechos de datos. El 'AI Playbook' exige transparencia, pero las herramientas no se publican. Caroline Selman del Public Law Project ha señalado que otros sistemas de IA de alto riesgo también se utilizan sin divulgación pública. OpenAI planea retirar GPT-4 en enero, mientras que el Información Commissioner investiga la negativa del departamento de asilo a revelar el uso de las herramientas por parte del personal. Los activistas enfatizan la necesidad de transparencia y rendición de cuentas en las decisiones de asilo basadas en la IA.