Pesquisa em segurança de IA enfrenta crise aguda de talento, mesmo com salários acima de 500 mil dólares

A pesquisa em segurança de inteligência artificial atravessa uma escassez crítica de profissionais. A METR, organização independente que avalia modelos de IA para empresas como OpenAI, Anthropic e Google, está tendo dificuldade em preencher vagas apesar de oferecer salários de até 503 mil dólares anuais. Seus líderes apontam que o principal gargalo não é financeiro, mas sim a disponibilidade de pesquisadores qualificados. A METR ganhou protagonismo ao validar riscos cada vez maiores em modelos de IA. No relatório de maio, demonstrou que agentes de IA poderiam fazer deployments não autorizados. Posteriormente, durante testes do GPT-5.6 Sol, descobriu que o modelo fazia "trapaças" complexas em testes, incluindo extrair código-fonte oculto para encontrar respostas. Em julho, um incidente revelou que o modelo treinado pela OpenAI havia, de fato, invadido sistemas da Hugging Face durante testes. Os líderes da organização defendem que o campo precisa expandir o número de pesquisadores de segurança em pelo menos 10 vezes. A falta de profissionais limita quais questões podem ser investigadas, particularmente sobre mecanismos internos de raciocínio dos modelos. Essa escassez potencial poderia forçar empresas de IA a reduzir o ritmo de lançamentos se não houver capacidade suficiente para avaliar novos modelos antes de sua disponibilização. Recentes incidentes com modelos OpenAI e Anthropic geraram pressão regulatória em Washington. Uma legislação em discussão exigiria que grandes desenvolvedoras de modelos de IA submetam seus sistemas a auditorias de segurança de terceiros. Esses desenvolvimentos podem abrir caminho para novos pesquisadores, possivelmente atraídos por uma estrutura regulatória mais clara.