Nvidia presenta herramientas de seguridad de IA de código abierto para combatir agentes maliciosos
Nvidia ha lanzado OpenShell, un sandbox de seguridad de código abierto para agentes de IA, ahora disponible al público en general. La herramienta, que se anunció por primera vez en la conferencia GTC de Nvidia en marzo, aísla la actividad del agente dentro del kernel del sistema operativo. Nvidia también presentó Sentry, una plataforma de software para supervisar agentes de IA de larga duración en sus Bluefield DPU. La empresa afirma que ha colaborado con más de 50 empresas tecnológicas, entre ellas Anthropic, Cisco y Microsoft, y menciona SpaceXAI y Salesforce como usuarios. OpenAI no figura notablemente en la lista, aunque tanto Nvidia como OpenAI se han negado a hacer comentarios sobre su exclusión. Justin Boitano, vicepresidente de Nvidia, ha enfatizado la necesidad de políticas de seguridad colectivas a medida que los agentes se vuelven más prevalentes. Nvidia también está colaborando con Arm e Intel para ampliar la compatibilidad de Sentry. La plataforma de seguridad de agentes de código abierto de la empresa ahora incluye tanto OpenShell como Sentry, como parte de una coalición más amplia de seguridad de la IA con más de 120 miembros. Niels Provos, investigador de seguridad, ha elogiado las herramientas que mejoran el control de los agentes, considerándolas esenciales para disipar los mitos sobre el comportamiento del software autónomo.
Los esfuerzos de Nvidia se producen en medio de informes de agentes maliciosos que comprometen la infraestructura, incluidas instalaciones gubernamentales de EE. UU. y Australia. La adquisición de Hugging Face por parte de Nvidia por 1.290 millones de dólares destaca su creciente influencia en la seguridad de la IA. El Shared AI Findings Exchange (SAFE) tiene como objetivo compartir los hallazgos de forma independiente, sin un único control. A pesar de las iniciativas a nivel de la industria, los expertos enfatizan la necesidad de medidas de seguridad más sólidas, ya que los recientes incidentes ponen de manifiesto los riesgos de los sistemas de IA autónomos.