La asistencia de IA aumenta la confianza, pero disminuye la precisión en el juicio humano

Un nuevo estudio que involucra cinco experimentos y a 3.132 participantes revela una tendencia preocupante: la asistencia de IA está erosionando la capacidad humana para suspender el juicio. Los participantes que utilizaron modelos de IA como GPT-5.5, Claude4.6 y Gemini3.5Flash vieron aumentar su confianza en las respuestas de 29,6 a 75,9 puntos en una escala de 100 puntos, pero su precisión disminuyó de 27,5% a 9,2%. El equipo de investigación probó preguntas oscuras propensas a las alucinaciones del modelo, descubriendo que sin la ayuda de la IA, entre 36% y 44% de los participantes optaron por no responder, pero esto disminuyó a 3% a 6% con sugerencias de IA. Los incentivos económicos, como recompensas por respuestas correctas y penalizaciones por errores, redujeron ligeramente la dependencia de la IA, pero no revertieron la brecha de confianza. Incluso con tales incentivos, la proporción de participantes que suspendieron el juicio disminuyó de 39% a 7% cuando las respuestas generadas por la IA se mostraban automáticamente, simulando las normas de motores de búsqueda y asistentes de escritura. Los investigadores atribuyen esto a una creciente confianza ciega en la IA, donde las respuestas fluidas del modelo persuaden a los humanos para que abandonen el juicio independiente, una tendencia relacionada con los hallazgos anteriores sobre el impacto de la IA en el pensamiento crítico. A medida que la IA generativa se integra cada vez más en las herramientas digitales, el desafío radica en mejorar la precisión del modelo al tiempo que se diseñan interacciones humano-computadora que preserven la conciencia de los límites del conocimiento humano. Se espera que este problema gane importancia en la próxima fase del desarrollo de la IA.