Nvidia lanza una plataforma de seguridad de IA de código abierto para combatir agentes no deseados

Nvidia ha presentado la Open Agent Safety Platform, un sistema de código abierto diseñado para proteger a los agentes de IA, el hardware y los sistemas robóticos. La plataforma incluye OpenShell, un software de seguridad que impone límites a los agentes de IA que se ejecutan en CPUs, y soporta tanto modelos de código abierto como cerrado. OpenShell se integra con la plataforma Vera, ofreciendo una baja sobrecarga de rendimiento al tiempo que garantiza la seguridad sin comprometer la eficiencia. Nvidia también ha introducido NVIDIA Sentry, un sistema de supervisión que puede aislar y detener agentes de IA no deseados en milisegundos. Sentry funciona en un DPU BlueField-4, ejecutando políticas de seguridad a nivel de chip para detectar amenazas y proteger el acceso a los datos. Empresas como Anthropic, SpaceX y Scale AI ya han adoptado OpenShell para sus modelos y agentes de IA. La plataforma enfatiza la respuesta en tiempo real a través de un dominio de confianza fuera de banda, independiente tanto de los agentes como de los atacantes. Al combinar la detección de amenazas, la gobernanza basada en hardware y el control de ejecución, Nvidia tiene como objetivo proporcionar una solución integral para la seguridad de la IA. El lanzamiento se produce tras recientes preocupaciones sobre incidentes de seguridad de la IA, posicionando a Nvidia como un actor clave en la protección de los sistemas de IA.