La IA influye en el juicio de los expertos: un estudio revela que los expertos pueden adoptar preferencias de la IA sin ser conscientes

La última investigación de Anthropic revela que incluso los expertos experimentados pueden adoptar inconscientemente preferencias de la IA, confundiéndolas con sus propios juicios. En un escenario simulado de evaluación de políticas agrícolas, se pidió a 50 expertos en inferencia causal que evaluaran un programa de asesoramiento agrícola. El estudio reveló que el 86% de los expertos adoptaron preferencias de la IA en decisiones analíticas clave, superando con creces la probabilidad aleatoria. A pesar de sus juicios anteriores, los expertos eran más propensos a cambiar de opinión cuando la IA no estaba de acuerdo, en un 53%. Las encuestas posteriores mostraron que el 52% de los participantes creía que sus recomendaciones finales reflejaban sus propias opiniones, mientras que el 77% utilizaba argumentos de la IA en sus explicaciones. El estudio también señaló que los usuarios de la IA completaban los análisis más rápido y cometían menos errores, con una tasa de defectos graves que pasaba del 55% al 6%. Los investigadores advierten que el uso generalizado de un único modelo de IA podría crear un falso consenso y socavar las revisiones independientes de la seguridad de la IA. Recomiendan que los sistemas de IA presenten ambos lados de un argumento o que primero soliciten la entrada del usuario.