Nvidia lança plataforma de segurança de IA de código aberto para combater agentes maliciosos

A Nvidia apresentou a Open Agent Safety Platform, um sistema de código aberto projetado para proteger agentes de IA, hardware e sistemas robóticos. A plataforma inclui o OpenShell, um software de segurança que impõe limites aos agentes de IA em execução em CPUs, suportando modelos de código aberto e fechado. O OpenShell integra-se com a plataforma Vera, oferecendo baixo overhead de desempenho, garantindo a segurança sem comprometer a eficiência. A Nvidia também introduziu o NVIDIA Sentry, um sistema de vigilância que pode isolar e parar agentes de IA maliciosos em milissegundos. O Sentry opera no BlueField-4 DPU, executando políticas de segurança no nível do chip para detetar ameaças e proteger o acesso aos dados. Empresas como Anthropic, SpaceX e Scale AI já adotaram o OpenShell para os seus modelos e agentes de IA. A plataforma enfatiza a resposta em tempo real através de um domínio de confiança fora de banda, independente dos agentes e dos atacantes. Ao combinar a deteção de ameaças, a governação baseada em hardware e o controlo da execução, a Nvidia pretende fornecer uma solução abrangente para a segurança da IA. O lançamento ocorre após recentes preocupações sobre incidentes de segurança da IA, posicionando a Nvidia como um ator-chave na segurança de sistemas de IA.