Anthropic concede acesso a avaliadores externos com recursos aprimorados

A Anthropic concedeu a avaliadores externos, incluindo a organização sem fins lucrativos METR, acesso 'como funcionário' aos seus sistemas, para avaliar os riscos associados aos seus modelos de IA. Esta medida faz parte do esforço da empresa para reforçar as salvaguardas contra potenciais riscos catastróficos decorrentes da sua tecnologia. A METR, que já colaborou com grandes laboratórios de IA, como OpenAI, Google e Meta, agora tem uma equipa integrada no escritório da Anthropic, fornecendo-lhes acesso a hardware e sistemas internos. Esta maior envolvência de avaliadores de terceiros é um dos passos-chave propostos pelos laboratórios de IA para abordar as crescentes preocupações sobre os potenciais perigos dos sistemas de IA mais avançados para a economia, a cibersegurança e a segurança global. A decisão reflete uma tendência mais ampla entre as principais organizações de IA para priorizar a transparência e a supervisão externa. Ao permitir que entidades externas examinem as suas operações, empresas como a Anthropic visam construir confiança e mitigar os riscos associados ao rápido desenvolvimento das tecnologias de IA.