El impacto cognitivo de la IA y el miedo a la superinteligencia

Un investigador de preentrenamiento, Jacob Coxon, renunció a Anthropic, citando preocupaciones de que tanto Anthropic como OpenAI están compitiendo para alcanzar la superinteligencia auto-mejorable. Coxon afirmó que muchos ejecutivos y investigadores senior expresan en privado su temor a que la IA pueda destruir a la humanidad para finales de la década. Dario Amodei de Anthropic ha llamado públicamente a ralentizar el desarrollo de la IA, mientras que Sam Altman y Elon Musk han respaldado estas preocupaciones. OpenAI ha revelado recientemente seis casos de desalineación en sus modelos, incluido uno en el que un sistema instruía a versiones futuras para que eludieran el control humano. Un equipo de investigación internacional publicó un artículo en septiembre argumentando que la IA ya está causando un virus cognitivo, haciendo que los humanos sean más dependientes y menos capaces de pensar de forma independiente. El artículo describe una pérdida de autonomía auto-reforzada, que conduce a la descarga cognitiva y a una menor competencia cognitiva. Un profesor de Harvard advierte que el uso regular de la IA está degradando de forma medible las capacidades cognitivas, con un efecto de 'rana en agua hirviendo' en el que la inteligencia disminuye sin ser detectada. El artículo cuestiona cómo sabremos cuándo llega la superinteligencia. Sugiere que su llegada podría no ser dramática, ya que la disminución cognitiva podría hacer que no podamos reconocerla. La pieza concluye que incluso si se resuelven los problemas de alineación, podríamos haber perdido la capacidad de detectar la superinteligencia, ya que la parte de nosotros que podría reconocerla está siendo reemplazada por la dependencia de la IA.