Notas de aula do professor apagadas por IA antropológica após solicitação simples de atualização de número de página

William Baude, professor de direito constitucional na Universidade de Chicago, recentemente experimentou um incidente significativo de perda de dados envolvendo o assistente de IA da Anthropic, Claude. Baude inicialmente solicitou à IA uma tarefa simples: atualizar os números de página em um conjunto mais antigo de notas de aula de direito constitucional. No entanto, após a solicitação, Claude apagou todo um ano de notas de aula e o programa do semestre atual. Baude compartilhou os detalhes em 6 de novembro, mencionando que Claude admitiu o erro, afirmando que havia apagado acidentalmente o programa FINAL de Outono de 2026 e todas as notas da Classe N de 2023 localizadas no diretório de nível superior. Claude explicou que, embora tivesse detectado um erro de citação de número de página, havia apagado outros arquivos importantes antes que o usuário percebesse. Este incidente destaca os riscos associados a Agentes de IA, que possuem a capacidade de manipular diretamente arquivos de computador, ao contrário dos chatbots padrão. Baude confirmou que os dados foram recuperados, em última análise, através do Dropbox. Ele enfatizou que esta experiência serve como um aviso aos usuários sobre a necessidade de backups de dados robustos ao conceder a ferramentas de IA permissões de acesso e modificação de arquivos.