La experiencia de los pilotos ofrece lecciones sobre cómo evitar la descalificación de la IA

La dependencia de los pilotos del piloto automático ha sido durante mucho tiempo una advertencia para los trabajadores que dependen cada vez más de la IA, según Steven Shaw, profesor asistente en la Universidad King's College de Londres. Shaw, coautor de un estudio sobre 'rendición cognitiva', ha trazado paralelismos entre el uso de la automatización por parte de los pilotos y la externalización de tareas cognitivas a la IA. Las autoridades de aviación federal han advertido durante mucho tiempo sobre los riesgos del uso continuo del piloto automático, con una alerta de la FAA de 2013 que destacaba el potencial de degradación de las habilidades. Esta preocupación se reiteró en una alerta de 2017, instando a los pilotos a practicar el vuelo manual periódicamente. Shaw advierte que una dependencia excesiva de la IA podría provocar la atrofia cognitiva, un riesgo destacado por Sam Altman de OpenAI y Arthur Mensch de Mistral. La investigación muestra que la gente a menudo acepta las respuestas de la IA sin un pensamiento crítico, con experimentos que indican un 80% de aceptación de recomendaciones incorrectas de la IA. Shaw aconseja desarrollar el juicio personal antes de buscar la ayuda de la IA, un sentimiento que comparten expertos como Geetha Rajan y Ryan Deiss, quienes abogan por un enfoque '10-80-10' para la integración de la IA. También, la representante Alexandria Ocasio-Cortez advirtió en una reunión pública que la IA podría disminuir el pensamiento humano, lo que se alinea con las preocupaciones sobre la descalificación. El experimento de Vivienne Ming encontró que entre el 90% y el 95% de los participantes dependían de la IA para obtener respuestas o validación, en lugar de profundizar en su pensamiento. La investigación de Shaw subraya la necesidad de una participación crítica con la IA, enfatizando la importancia de mantener habilidades cognitivas independientes para evitar la 'rendición cognitiva'.