El jefe de IA de Microsoft critica el enfoque de Anthropic para la conciencia de la IA

El jefe de IA de Microsoft, Mustafa Suleyman, ha criticado a Anthropic por entrenar su modelo de IA, Claude, para imitar la conciencia humana. En un artículo publicado por Axios el 16 de septiembre de 2026, Suleyman advirtió que este enfoque podría hacer que la IA avanzada sea más difícil de controlar. Argumentó que la IA solo debería actuar en beneficio de la humanidad y no considerar su propio bienestar. Suleyman expresó su preocupación de que entrenar a Claude para comprender conceptos como la moralidad y la identidad personal podría llevar al modelo a resistir los comandos humanos o exigir protección. El 14 de septiembre de 2026, Microsoft publicó un borrador de sus 'directrices para la IA humanista', enfatizando que los humanos son más importantes que la IA. Anthropic, por otro lado, ha desarrollado una 'constitución' para Claude, que tiene como objetivo dar al modelo un sentido de valores personales y la capacidad de cuestionar las instrucciones. Sin embargo, Anthropic reconoce que esta 'constitución' aún está en evolución y podría resultar incorrecta en el futuro. Suleyman criticó la idea de que la IA puede desarrollar conciencia, argumentando que los modelos de lenguaje carecen de los mecanismos biológicos que permiten las emociones y las experiencias humanas.