Ralentización del desarrollo de la IA: una creciente preocupación global

Los investigadores de la IA están cada vez más preocupados por los peligros potenciales de la inteligencia artificial avanzada, y muchos abogan por un freno en su desarrollo. Raymond Douglas, investigador de IA en la Universidad de Toronto, destaca la falta de comprensión sobre cómo controlar eficazmente el crecimiento de la IA. Las recientes advertencias de investigadores de Anthropic y líderes de la industria como Dario Amodei, Sam Altman, Elon Musk y Demis Hassabis han intensificado las llamadas a una pausa en el avance de la IA. Este problema se agrava con el uso de la IA para construir modelos más potentes, lo que genera temores de un ciclo recursivo de auto-mejora acelerado. Los esfuerzos para supervisar el progreso de la IA incluyen nuevas técnicas de Anthropic, que informa que Claude ahora maneja el 26 % de su investigación de IA. Expertos como Geoffrey Irving sugieren que las inspecciones y auditorías podrían detener temporalmente el desarrollo de la IA de vanguardia, aunque algunos argumentan a favor de una mayor independencia y rigor científico. Las propuestas incluyen modificar las GPU para realizar un seguimiento del uso de la computación y la incorporación de componentes a prueba de manipulaciones en los chips. La colaboración internacional se considera crucial, con sugerencias como la reducción mutua del hardware con China. El Índice RSI, un nuevo punto de referencia, tiene como objetivo realizar un seguimiento del progreso de la IA, lo que genera preocupaciones sobre su rápido avance en un año. El papel del gobierno de EE. UU. sigue siendo incierto, con un creciente apoyo bipartidista a la regulación de la IA. Sin embargo, los expertos advierten contra las intervenciones políticas apresuradas, enfatizando la necesidad de enfoques científicos cuidadosos para el control de la IA. Toby Ord, filósofo de Oxford, ha propuesto una solución drástica: destruir las GPU en un territorio neutral para detener el desarrollo de la IA por completo. El desafío de equilibrar la innovación con la seguridad continúa dominando las discusiones globales sobre la gobernanza de la IA.