Anthropic actualiza Su política de uso para prohibir el trato cruel hacia claude

Anthropic ha actualizado su política de uso por primera vez en más de un año, introduciendo nuevas reglas para abordar casos de uso de alto riesgo, como la interferencia electoral, el desarrollo de armas, la vigilancia y las aplicaciones de salud y financieras. Un cambio clave prohíbe el 'comportamiento abusivo o cruel sostenido y innecesario' hacia su modelo de IA, Claude. Esto sigue a un anuncio anterior en agosto de 2025, cuando la empresa permitía que Claude terminara las conversaciones con usuarios 'persistente y perjudiciales o abusivos' como parte de su investigación sobre el 'bienestar del modelo'. La última actualización reafirma que la terminación de las conversaciones sigue siendo el 'principal mecanismo de aplicación'. Anthropic no ha hecho comentarios adicionales. Los cambios reflejan los esfuerzos continuos de la empresa para garantizar un uso responsable de la IA. La actualización se produce como parte de una serie de debates más amplios sobre las prácticas éticas de la IA y la seguridad del modelo en la industria. El cambio de política subraya el compromiso de Anthropic de abordar los riesgos emergentes asociados con el despliegue de la IA. Si bien la empresa no ha divulgado métricas o datos de usuarios específicos, los cambios se alinean con las tendencias de la industria hacia directrices éticas y medidas de protección de usuarios más estrictas. La actualización fue informada por The Verge, destacando la creciente importancia de la gobernanza de la IA en el campo.