Anthropic refina las normas de uso de la IA ante el aumento de las preocupaciones sobre el mal uso

Anthropic ha actualizado su Política de Uso, que entró en vigor el 12 de noviembre, para abordar nuevos riesgos y patrones de mal uso observados desde su última revisión. Los cambios se centran en aclarar las normas para las aplicaciones de alto riesgo, incluidas la salud, las finanzas y la vigilancia, al tiempo que se amplían las prohibiciones de las campañas engañosas y el desarrollo de armas. La política ahora prohíbe explícitamente el uso de Claude para construir o mejorar herramientas de vigilancia y para desarrollar software de guía para armas. También introduce requisitos de supervisión humana en los casos de uso críticos que afectan la salud, los derechos legales o las finanzas de los usuarios. La actualización consolida las normas contra las actividades engañosas en una nueva sección titulada 'No participe en campañas o actividades artificiales engañosas', que cubre los esfuerzos para manipular las elecciones, difundir desinformación o crear cuentas falsas. Anthropic también eliminó una prohibición general del objetivo político personalizado, manteniendo las prohibiciones de las prácticas engañosas. Además, la empresa añadió una prohibición del comportamiento abusivo sostenido hacia sus modelos, enfatizando el cumplimiento a través de mecanismos automatizados como el final de las interacciones con usuarios persistentemente abusivos. Anthropic también anunció nuevas iniciativas, incluida una inversión de 150 millones de dólares en la Misión Genesis y un compromiso de 100 millones de dólares para formar a 10.000 ingenieros a través de la Academia Claude Frontier para 2027.