Anthropic expande avaliação de IA independente com METR e outros parceiros

A Anthropic iniciou a concessão de acesso semelhante a funcionários a uma equipe do METR, uma organização sem fins lucrativos de avaliação de IA, aos seus sistemas e ferramentas internos, marcando um passo significativo no seu compromisso com a supervisão de terceiros. O METR publicará as suas avaliações de risco, com direitos limitados de redação para a Anthropic. A empresa também está a colaborar com a SecureBio e a Accenture, com parcerias iniciais que envolvem um acesso e direitos de publicação mais restritos. A Anthropic desenvolveu três níveis de acesso para avaliadores, com o METR atualmente no nível mais elevado. A empresa também está a avançar com as suas salvaguardas eleitorais e abriu um escritório em Singapura, assinando um MoU com o governo para promover a adoção responsável da IA. Uma nova versão da sua Política de Utilização foi lançada, com as alterações resumidas num post separado. A abordagem espelha a regulamentação bancária, onde examinadores independentes são integrados nas instituições para avaliar os riscos. A Anthropic visa preencher a lacuna entre a compreensão interna e a avaliação externa, garantindo a transparência ao mesmo tempo que protege informações sensíveis. A empresa está a trabalhar para integrar totalmente mais avaliadores independentes à medida que as parcerias avançam, com o objetivo de melhorar a supervisão de segurança na indústria da IA. Mais cedo este ano, a Anthropic partilhou atualizações sobre as suas salvaguardas eleitorais e continua a fortalecê-las em preparação para as eleições de 2026 nos EUA. A empresa enfatiza a integração voluntária de avaliadores e defende práticas semelhantes em toda a indústria de IA de ponta.