Altman critica la atribución de poder religioso a los modelos de IA

El CEO de OpenAI, Sam Altman, expresó su inconformidad al atribuir poder religioso a los modelos de IA, calificándolo como un problema de seguridad. En una publicación en X, Altman afirmó que se siente 'muy incómodo' con las personas que intentan atribuir a los modelos de IA una fuerza o rendición de juicio humano. Esta postura destaca una creciente división entre Altman y su antiguo colega, Dario Amodei, cuya empresa, Anthropic, se ha reportado que ha contactado con líderes religiosos para explorar el desarrollo moral y consciente de la IA. Esta semana, el New York Times informó que el cofundador de Anthropic, Christopher Olah, ha estado reuniéndose con líderes religiosos para considerar cuestiones de la conciencia del modelo y cómo infundir moralidad en la IA. El debate sobre las implicaciones espirituales de la IA ha ganado una nueva atención, particularmente tras la postura del Papa sobre si los modelos tienen alma y sentimientos. Ni OpenAI ni Anthropic han respondido a las solicitudes de comentarios sobre la publicación de Altman. El debate sobre la seguridad de la IA se centra principalmente en la ciberseguridad y las armas biológicas, pero la espiritualidad ahora está emergiendo como un punto de controversia importante.