Preocupaciones crecen sobre la fiabilidad de las herramientas de IA en la toma de decisiones políticas

Mientras que los estadounidenses acuden a las urnas hoy, muchos pueden haber consultado chatbots de IA para tomar decisiones de voto. Pew Research indica que casi el 50 por ciento de los adultos estadounidenses encuestados han utilizado un chatbot de IA en algún momento, con un 8 por ciento que específicamente ha utilizado estas herramientas antes de las elecciones para investigar políticas y candidatos. Sin embargo, la investigación de Forum AI encontró que casi el 40 por ciento de las respuestas a las elecciones proporcionadas por los chatbots principales contenían errores factuales. Se identificaron problemas específicos, como el rechazo de la función de IA de Google para compartir los resultados de las elecciones de 2020 y la declaración incorrecta de Gemini sobre la fecha límite para el voto por correo en Pensilvania como 3 de noviembre en lugar de 27 de octubre. Además, en una prueba de agosto, Claude confundió a un congresista de Carolina del Norte con un antiguo superintendente escolar con el mismo nombre. La investigación de NewsGuard destacó una importante dependencia de fuentes cuestionables, señalando que los chatbots principales citan sitios web conocidos como "slime rosa" (sitios financiados por grupos políticos o ideológicos) casi el 50 por ciento de las veces al hablar de las elecciones. ChatGPT de OpenAI fue el peor, citando estos sitios en más del 70 por ciento de las búsquedas, mientras que Grok de xAI tuvo un mejor rendimiento, del 30 por ciento. Nina Jankowicz, directora ejecutiva del American Sunlight Project, advirtió que los ejecutivos han hecho promesas excesivas sobre las capacidades de la IA, señalando que, dado que las herramientas deben obtener información de algún lugar, a menudo fabrican respuestas cuando carecen de conocimiento.