Matemático advierte a las empresas de IA contra la ocultación de los procesos de pensamiento en la investigación

El 26 de octubre, la publicación de medios chinos Chaoshinews informó que Yuyu Deng, ganador de la Medalla Fields y profesor de la Universidad de Chicago, criticó a las empresas de IA por ocultar los procesos de pensamiento detrás de sus pruebas matemáticas durante un discurso en el foro 'Knowledge Intellectuals' y 'Sr. Sai'. Deng enfatizó que, si bien la IA ofrece vastos conocimientos y bajos costos de prueba, los humanos siguen siendo los principales actores en la investigación, con la IA sirviendo como una herramienta. Argumentó que las empresas de IA deberían revelar la lógica detrás de sus pruebas, ya que no hacerlo viola las normas académicas. Deng criticó a las empresas por utilizar la 'anti-distilación' como una excusa para ocultar sus procesos de pensamiento, que él calificó de barrera para la comprensión. También propuso la publicación abierta de modelos matemáticos para garantizar que la comunidad académica mantenga el control sobre sus herramientas de investigación. En una declaración separada, 25 ganadores de la Medalla Fields, entre ellos Deng y Terence Tao, advirtieron que el enfoque de la IA en las matemáticas está desalineado con los objetivos de la comunidad matemática. Destacaron que, si bien la IA ha mejorado en la resolución de problemas matemáticos, sus métodos a menudo carecen de atribución adecuada y no integran nuevas ideas en el canon matemático, lo que podría poner en riesgo la colaboración humana en el campo.