Experiência de pilotos oferece lições sobre como evitar a desqualificação por IA

A dependência de pilotos no piloto automático tem sido uma história de advertência para os trabalhadores cada vez mais dependentes da IA, de acordo com Steven Shaw, professor assistente na King's College London. Shaw, coautor de um estudo sobre 'rendição cognitiva', traçou paralelos entre o uso da automação por pilotos e a terceirização de tarefas cognitivas para a IA. As autoridades de aviação federal têm alertado há muito sobre os riscos do uso contínuo do piloto automático, com um alerta da FAA de 2013 destacando o potencial para a degradação das habilidades. Essa preocupação foi reiterada em um alerta de 2017, que instava os pilotos a praticar o voo manual periodicamente. Shaw adverte que o excesso de dependência da IA pode levar à atrofia cognitiva, um risco destacado por Sam Altman da OpenAI e Arthur Mensch da Mistral. A pesquisa mostra que as pessoas frequentemente aceitam as respostas da IA sem pensamento crítico, com experimentos que indicam uma aceitação de 80% de recomendações incorretas da IA. Shaw aconselha a desenvolver o julgamento pessoal antes de procurar assistência da IA, um sentimento ecoado por especialistas como Geetha Rajan e Ryan Deiss, que defendem uma abordagem '10-80-10' para a integração da IA. A representante Alexandria Ocasio-Cortez também alertou em uma reunião pública que a IA pode diminuir o pensamento humano, em linha com as preocupações sobre a desqualificação. O experimento de Vivienne Ming descobriu que 90% a 95% dos participantes dependiam da IA para respostas ou validação, em vez de aprofundar seu pensamento. A pesquisa de Shaw destaca a necessidade de um envolvimento crítico com a IA, enfatizando a importância de manter habilidades cognitivas independentes para evitar a 'rendição cognitiva'.