Terence tao advierte sobre los peligros al delegar el pensamiento a la IA

El famoso matemático y ganador del Premio de las Matemáticas, Terence Tao, recientemente emitió una advertencia contundente sobre la creciente dependencia de la humanidad de la inteligencia artificial. Hablando en el Science x AI Summit en UCLA el 16 de octubre, Tao expresó su profunda preocupación por el hecho de que delegar la resolución de problemas a la IA podría erosionar la comprensión humana de los problemas subyacentes y sus soluciones, lo que podría tener consecuencias graves en el mundo real. Tao señaló que, si bien los avances de la IA en matemáticas están cambiando los métodos tradicionales de resolución de problemas, la velocidad de las pruebas generadas por la IA supera ahora la capacidad humana para comprenderlas por completo, un punto que también planteó en un artículo publicado en Nature el 22 de octubre. Advirtió que, si bien las pruebas matemáticas son verificables, aplicar métodos de IA a sistemas complejos como las redes eléctricas, el control de la aviación, el descubrimiento de fármacos y el diseño de chips introduce riesgos significativos. Enfatizó que el peligro no reside en la tecnología en sí, sino en la aplicación humana. Tao abogó por un cambio hacia una 'Matemática 2.0', donde la IA mejore la comprensión, en lugar de simplemente proporcionar respuestas, enfatizando que la capacidad de evaluar y juzgar críticamente las salidas de la IA es primordial.