Matemático alerta empresas de IA contra a ocultação de processos de pensamento na pesquisa

Em 26 de outubro, a mídia chinesa Chaoshinews reportou que Yuyu Deng, medalhista do Prêmio Fields e professor da Universidade de Chicago, criticou empresas de IA por retiverem os processos de pensamento por trás de suas provas matemáticas durante um discurso no fórum 'Knowledge Intellectuals' e 'Sr. Sai'. Deng enfatizou que, embora a IA ofereça vasto conhecimento e baixos custos, os humanos permanecem os principais atores na pesquisa, com a IA servindo como uma ferramenta. Ele argumentou que as empresas de IA deveriam divulgar o raciocínio por trás de suas provas, pois não fazê-lo viola as normas acadêmicas. Deng criticou as empresas por usarem 'anti-distilação' como desculpa para esconder seus processos de pensamento, que ele chamou de um obstáculo à compreensão. Ele também propôs a disponibilização de modelos matemáticos de código aberto para garantir que a comunidade acadêmica mantenha o controle sobre suas ferramentas de pesquisa. Em uma declaração separada, 25 medalhistas do Prêmio Fields, incluindo Deng e Terence Tao, alertaram que a abordagem da IA em matemática está desalinhada com os objetivos da comunidade matemática. Eles destacaram que, embora a IA tenha melhorado na resolução de problemas matemáticos, seus métodos frequentemente carecem de atribuição adequada e não integram novas ideias no cânone matemático, colocando em risco a colaboração humana no campo.