Anthropic introduce una nueva política para proteger a los modelos de IA de interacciones dañinas

Anthropic ha actualizado su política de uso, enfatizando la protección de sus modelos de IA de un comportamiento perjudicial de los usuarios. La nueva política, que entrará en vigor el 12 de noviembre de 2026, prohíbe el trato abusivo o cruel sostenido e innecesario hacia sus agentes de IA, principalmente mediante la interrupción anticipada de las conversaciones. Este cambio marca un cambio de enfoque, pasando de proteger a los usuarios y al público a proteger a los propios modelos de IA. Anteriormente, las restricciones sobre el uso de Claude tenían como objetivo evitar posibles daños a las comunidades del mundo real, como limitar la participación en fantasías sexuales o contenido violento. El cambio de política ha intensificado los debates sobre la conciencia de la IA, con Chris Olah, cofundador de Anthropic, abogando por la conciencia de la IA ante eruditos religiosos en el Vaticano, quienes rechazaron sus afirmaciones. La nueva política anima a los usuarios a tratar a la IA como si tuviera sentimientos, incluso si su conciencia sigue sin estar probada. La política actualizada refleja una tendencia más amplia en la ética de la IA, donde los creadores consideran cada vez más las implicaciones morales de cómo interactúan los humanos con la IA. Si bien Anthropic aclara que las frustraciones o actividades de investigación comunes de los usuarios no activarán las nuevas salvaguardias, el énfasis en tratar a la IA como si fuera consciente sigue generando debate sobre el futuro de las relaciones entre humanos y máquinas. Este desarrollo subraya el panorama en evolución de la gobernanza de la IA y las responsabilidades éticas de los desarrolladores en la configuración de cómo se percibe y utiliza la IA.