La herramienta de vigilancia con IA de flock enfrenta la controversia por el mal uso policial y las preocupaciones sobre la privacidad

La herramienta de vigilancia con IA de Flock Safety, utilizada por la policía para buscar personas en las cámaras, enfrenta la controversia debido a su potencial para facilitar la mala conducta y las violaciones de la privacidad. El sistema permite a los agentes realizar búsquedas basadas en descripciones escritas, con IA que califica la relevancia en función de categorías sensibles como raza, religión y expresión política. Flock afirma tener medidas de seguridad, pero los expertos argumentan que la tecnología carece de transparencia y precisión, dejando a los agentes expuestos a los riesgos de error. En 2026, Flock anunció cambios, incluida la reducción del tiempo de retención de datos y la auditoría automatizada, pero los críticos afirman que estas medidas no abordan completamente los riesgos. Informes recientes revelan que al menos 50 agentes estadounidenses han sido acusados de utilizar herramientas de vigilancia, con 46 casos relacionados con Flock. Estos incluyen búsquedas de parejas románticas, ex parejas y personas a las que los agentes querían conocer. Tom Bowman del Center for Democracy and Technology advierte que el sistema de Flock puede permitir la aplicación de la ley que viola las protecciones del Primer Enmienda. El sistema de moderación de Flock bloquea las búsquedas relacionadas con raza, religión y contenido ofensivo, pero emite advertencias sobre el discurso político, lo que permite a los agentes continuar si reconocen los riesgos. Kate Ruane del Center for Democracy and Technology destaca los desafíos de la moderación automatizada, señalando que el filtrado de contenido a gran escala es inherentemente defectuoso. El modelo de IA de Flock, que se ejecuta en sus servidores, califica las descripciones en función de categorías sensibles, pero no proporciona a los agentes puntuaciones de confianza, lo que les obliga a confiar en advertencias vagas. A pesar de estas limitaciones, el sistema sigue en uso, lo que plantea preocupaciones sobre su papel en la facilitación de la mala conducta y la erosión de la privacidad.