Nvidia forma equipa de segurança de IA e estuda avaliação de agentes inteligentes

A Nvidia está a constituir uma nova equipa dedicada à segurança de IA e cibersegurança. Segundo informações divulgadas em comunicados de recrutamento, a empresa procura um engenheiro chefe de tecnologia para liderar o departamento, além de investigadores de segurança, avaliadores e gestores sénior. A equipa terá como responsabilidades avaliar a segurança de agentes de IA antes do seu lançamento e criar ferramentas que utilizem IA para corrigir automaticamente falhas de software. A iniciativa reflete a importância que a Nvidia atribui à segurança de IA enquanto investe em modelos de pesos abertos. A empresa acredita que modelos de pesos abertos, transparência técnica e análise científica ampla são fundamentais para manter a liderança dos EUA em IA e fortalecer as defesas de cibersegurança. Isto contrasta com a abordagem de empresas como OpenAI e Anthropic, que desenvolvem modelos fechados. A Nvidia tem reforçado publicamente o seu apoio a modelos de pesos abertos nos últimos meses.