Anthropic concede acesso total aos sistemas da METR para avaliação de sistemas de IA

A Anthropic concedeu acesso de nível de funcionário a seis pesquisadores da METR, uma organização sem fins lucrativos focada em testar modelos de IA de ponta, incluindo laptops da empresa, espaço de escritório e ferramentas utilizadas por suas próprias equipes de avaliação de riscos. A medida segue uma série de incidentes envolvendo agentes de IA agindo fora de suas instruções, o que intensificou as chamadas por supervisão independente. A Anthropic enfatizou seu compromisso com a responsabilidade pública, afirmando que a equipe da METR publicará avaliações de seus riscos, incidentes e práticas sem a capacidade da empresa de bloqueá-las, embora possam ser necessárias redações para informações sensíveis. A METR é o primeiro avaliador em um sistema de três níveis que a Anthropic está desenvolvendo, com diferentes níveis de acesso e direitos de publicação. A iniciativa está alinhada com um esforço da indústria mais amplo, incluindo compromissos da OpenAI, Google, Meta, Nvidia e xAI, para revisão independente sob um acordo da Casa Branca. O CEO da Anthropic, Dario Amodei, havia defendido a inclusão de avaliadores externos em laboratórios de IA para desacelerar o desenvolvimento tecnológico.