Pode a IA possuir moral sem consciência?

Um debate recente surgiu entre o Papa Leão XIV e uma grande empresa de IA sobre se os chatbots podem possuir uma consciência. Uma investigação da New York Times, publicada no final do mês passado, revelou que Chris Olah, cofundador da Anthropic, considerou se retirar de um evento no Vaticano após ler uma versão antecipada do encíclico de Papa Leão XIV, Magnifica Humanitas. O documento afirma explicitamente que os modelos de IA carecem de experiências, corpos e consciência moral. A discussão reflete um debate mais amplo sobre se os sistemas de IA poderiam ou deveriam alcançar a personalidade moral. A Anthropic consultou estudiosos religiosos e especialistas em ética sobre a consciência da IA e a instilação de valores morais nos seus modelos, enquanto o Vaticano e pensadores seculares argumentam que a verdadeira moralidade é única dos seres humanos. A pesquisadora da Georgia Tech, Rionna Sparrow, argumenta que a sensibilidade moral, essencial para o julgamento ético, requer a consciência, pois as normas éticas derivam a sua força da capacidade dos seres conscientes de sofrer ou beneficiar. O debate tem implicações significativas para as indústrias que dependem do julgamento da IA, com biliões de dólares investidos no seu desenvolvimento. A situação permanece fluida, à medida que os modelos de IA continuam a demonstrar qualidades inesperadas, levantando questões sobre como reconhecer a moralidade semelhante à humana na IA.