Ferramenta de vigilância de IA da flock sob escrutínio devido ao uso indevido pela polícia e preocupações com a privacidade

A ferramenta de vigilância de IA da Flock, utilizada pela polícia para procurar pessoas em vídeos, está sob escrutínio devido à possibilidade de uso indevido e violações de privacidade. O sistema permite que os oficiais realizem buscas com base em descrições escritas, com a IA avaliando a relevância em relação a categorias sensíveis, como raça, religião e expressão política. A Flock afirma ter medidas de segurança, mas especialistas argumentam que a tecnologia carece de transparência e precisão, deixando os oficiais expostos a riscos de erro. Em 2026, a Flock anunciou mudanças, incluindo a redução do tempo de retenção de dados e auditorias automatizadas, mas os críticos afirmam que essas medidas não abordam totalmente os riscos. Relatos recentes revelam que pelo menos 50 oficiais dos EUA foram acusados de usar ferramentas de vigilância indevidamente, com 46 casos envolvendo a Flock. Isso inclui buscas por parceiros românticos, ex-parceiros e indivíduos que os oficiais desejavam conhecer. Tom Bowman do Center for Democracy and Technology adverte que o sistema da Flock pode permitir a aplicação da lei que viola as proteções da Primeira Emenda. O sistema de moderação da Flock bloqueia buscas por raça, religião e conteúdo ofensivo, mas emite avisos para discursos políticos, permitindo que os oficiais prossigam se reconheçam os riscos. Kate Ruane do Center for Democracy and Technology destaca os desafios da moderação automatizada, observando que o filtragem de conteúdo em larga escala é inerentemente falha. O modelo de IA da Flock, que funciona em seus servidores, avalia as descrições em relação a categorias sensíveis, mas não fornece aos oficiais pontuações de confiança, deixando-os a depender de avisos vagos. Apesar dessas limitações, o sistema continua em uso, levantando preocupações sobre seu papel no incentivo a condutas indevidas e na erosão da privacidade.