Anthropic refina as regras de uso da IA em meio a crescentes preocupações com o uso indevido

A Anthropic atualizou sua Política de Uso, que entra em vigor em 12 de novembro, para abordar novos riscos e padrões de uso indevido observados desde sua última revisão. As alterações se concentram em esclarecer as regras para aplicações de alto risco, incluindo saúde, finanças e vigilância, ao mesmo tempo em que expandem as proibições de campanhas enganosas e desenvolvimento de armas. A política agora proíbe explicitamente o uso do Claude para construir ou melhorar ferramentas de vigilância e para desenvolver software de orientação para armas. Também introduz requisitos de supervisão humana para casos de uso críticos que afetam a saúde, os direitos legais ou as finanças dos usuários. A atualização consolida as regras contra atividades enganosas em uma nova seção intitulada 'Não participe de campanhas ou atividades artificiais enganosas', abrangendo esforços para manipular eleições, disseminar desinformação ou criar contas falsas. A Anthropic também removeu uma proibição geral de direcionamento político personalizado, mantendo as proibições de práticas enganosas. Além disso, a empresa adicionou uma proibição de comportamento abusivo contínuo em relação aos seus modelos, enfatizando a aplicação por meio de mecanismos automatizados, como o encerramento de interações com usuários persistentemente abusivos. A Anthropic também anunciou novas iniciativas, incluindo um investimento de 150 milhões de dólares na Missão Genesis e um compromisso de 100 milhões de dólares para treinar 10.000 engenheiros por meio da Academia Claude Frontier até 2027.