Anthropic endurece las normas de uso de la IA con nuevas medidas contra el abuso y la seguridad

Anthropic ha actualizado su política de uso de Claude, que entrará en vigor el 12 de noviembre de 2026, introduciendo un nuevo veto sobre el 'abuso o la crueldad continuos e innecesarios' en las interacciones del usuario. La empresa ha declarado que esta norma tiene como objetivo el trato repetido y cruel hacia la IA sin un propósito claro, y que el cumplimiento implica principalmente la terminación de la conversación. Anthropic no ha especificado si se introducirán futuras sanciones, como la prohibición de cuentas. La política también excluye las quejas diarias, las creaciones literarias con temas oscuros y las pruebas de seguridad que cumplen con los requisitos. Además de regular el comportamiento del usuario, Anthropic ha ampliado las restricciones en las actividades relacionadas con armas, que abarcan software y componentes para armas, incluidos los drones armados. La empresa ha señalado varios intentos no autorizados de utilizar Claude para controlar o guiar armas. Las nuevas restricciones de vigilancia prohíben ahora el seguimiento de individuos sin consentimiento y prohíben el uso de Claude en investigaciones policiales o en el desarrollo de herramientas de vigilancia. Las normas de seguridad del hardware físico requieren que un operador cualificado supervise los dispositivos conectados a la IA que podrían causar daños. Para los clientes gubernamentales, Anthropic puede ajustar las normas en función de las condiciones contractuales y de seguridad.