Ministério do interior do reino unido sob investigação por uso de IA em decisões de asilo

Um órgão de vigilância do governo do Reino Unido está a considerar uma investigação sobre o uso do Ministério do Interior de ferramentas de IA generativa para decisões de asilo, citando preocupações sobre precisão e confidencialidade. O Inspector Independente de Fronteiras e Imigração (ICIBI) solicitou mais informações ao Open Rights Group (ORG), que realizou uma revisão de seis meses. A utilização de ferramentas como Asylum Case Summarisation (ACS) e Asylum Policy Search (APS), baseadas no modelo GPT-4 da OpenAI, para resumir entrevistas e políticas de país, é utilizada pelo Ministério do Interior. Um porta-voz do Ministério do Interior afirmou que as ferramentas de IA auxiliam, mas não substituem, os tomadores de decisão humanos. Pesquisadores e ativistas, incluindo o membro do parlamento Labour Bell Ribeiro-Addy, levantaram preocupações sobre a precisão da IA, especialmente em casos de alto risco. O ORG constatou que as resumos inadequados eram mais frequentes do que a taxa de erro publicada de 9%. O Ministério do Interior não divulgou o uso das ferramentas aos requerentes de asilo, levantando preocupações sobre os direitos de dados. A 'AI Playbook' exige transparência, mas as ferramentas não são listadas publicamente. Caroline Selman, do Public Law Project, observou que outros sistemas de IA de alto risco também são utilizados sem divulgação pública. A OpenAI planeia desativar o GPT-4 em janeiro, enquanto o Information Commissioner investiga a recusa do Ministério do Interior em divulgar o uso das ferramentas pelos funcionários. Os ativistas enfatizam a necessidade de transparência e responsabilização nas decisões de asilo baseadas em IA.