¿Puede la IA poseer moral sin conciencia?

Un reciente debate ha surgido entre el Papa León XIV y una importante empresa de IA sobre si los chatbots pueden poseer una conciencia. Una investigación del New York Times, publicada a finales del mes pasado, reveló que Chris Olah, cofundador de Anthropic, consideró retirarse de un evento en el Vaticano después de leer una copia anticipada del encíclica de Papa León XIV, Magnifica Humanitas. El documento declara explícitamente que los modelos de IA carecen de experiencias, cuerpos y conciencia moral. La discusión refleja un debate más amplio sobre si los sistemas de IA podrían o deberían lograr la personificación moral. Anthropic consultó a expertos religiosos y éticos sobre la conciencia de la IA y la incorporación de valores morales en sus modelos, mientras que el Vaticano y los pensadores seculares argumentan que la verdadera moralidad es única de los humanos. La investigadora de Georgia Tech, Rionna Sparrow, argumenta que la sensibilidad moral, esencial para el juicio ético, requiere la existencia, ya que las normas éticas derivan su fuerza de la capacidad de los seres conscientes para sufrir o beneficiarse. El debate tiene importantes implicaciones para las industrias que dependen del juicio de la IA, con miles de millones de dólares invertidos en su desarrollo. La situación sigue siendo fluida a medida que los modelos de IA continúan demostrando cualidades inesperadas, lo que plantea preguntas sobre cómo reconocer la moralidad similar a la humana en la IA.