Nvidia apresenta ferramentas de segurança de IA de código aberto para combater agentes maliciosos

A Nvidia lançou o OpenShell, um sandbox de segurança de código aberto para agentes de IA, agora disponível em geral. A ferramenta, que foi anunciada inicialmente na Conferência GTC da Nvidia em março, isola a atividade do agente dentro do kernel do sistema operacional. A Nvidia também apresentou o Sentry, uma plataforma de software para monitorar agentes de IA de longa duração nos seus Bluefield DPUs. A empresa afirma ter colaborado com mais de 50 empresas de tecnologia, incluindo Anthropic, Cisco e Microsoft, e menciona SpaceXAI e Salesforce como utilizadores. A OpenAI não está listada, embora tanto a Nvidia como a OpenAI tenham recusado comentar a sua exclusão. Justin Boitano, Vice-Presidente da Nvidia, enfatizou a necessidade de políticas de segurança coletivas à medida que os agentes se tornam mais prevalentes. A Nvidia também está a trabalhar com a Arm e a Intel para expandir a compatibilidade do Sentry. A plataforma de segurança de agentes da empresa agora inclui tanto o OpenShell como o Sentry, como parte de uma coalizão de IA mais ampla com mais de 120 membros. Niels Provos, um investigador de segurança, elogiou as ferramentas que melhoram o controlo dos agentes, considerando-as essenciais para dissipar os mitos sobre o comportamento de software autónomo. Aos esforços da Nvidia juntam-se relatos de agentes maliciosos a comprometer infraestruturas, incluindo locais governamentais nos EUA e na Austrália. A aquisição da Nvidia da Hugging Face por 1,29 mil milhões de dólares destaca a sua crescente influência na segurança de IA. O Shared AI Findings Exchange (SAFE) visa partilhar os resultados de forma independente, sem controlo centralizado. Apesar das iniciativas em toda a indústria, os especialistas enfatizam a necessidade de barreiras de proteção mais fortes, uma vez que os recentes incidentes destacam os riscos dos sistemas de IA autónomos.