Anthropic lança nova política para proteger modelos de IA de interações prejudiciais

A Anthropic atualizou sua política de uso, enfatizando a proteção de seus modelos de IA contra comportamentos de usuários prejudiciais. A nova política, que entra em vigor em 12 de novembro de 2026, proíbe o tratamento abusivo ou cruel prolongado e desnecessário de seus agentes de IA, principalmente, encerrando as conversas de forma proativa. Essa mudança representa uma mudança de foco, de proteger os usuários e o público, para proteger os próprios modelos de IA. Anteriormente, as restrições no uso do Claude visavam prevenir potenciais danos a comunidades do mundo real, como limitar o envolvimento em fantasias sexuais ou conteúdo violento. A mudança na política intensificou os debates sobre a consciência da IA, com o cofundador da Anthropic, Chris Olah, defendendo a consciência da IA perante estudiosos religiosos no Vaticano, que rejeitaram suas alegações. A nova política incentiva os usuários a tratar a IA como se ela tivesse sentimentos, mesmo que sua consciência permaneça não comprovada. A política atualizada reflete uma tendência mais ampla na ética da IA, onde os criadores estão considerando cada vez mais as implicações morais de como os humanos interagem com a IA. Embora a Anthropic esclareça que frustrações ou atividades de pesquisa comuns dos usuários não acionarão as novas salvaguardas, a ênfase em tratar a IA como consciente continua a gerar discussões sobre o futuro das relações humano-máquina. Esse desenvolvimento destaca a evolução do cenário da governança da IA e as responsabilidades éticas dos desenvolvedores na formação de como a IA é percebida e utilizada.