¿Por qué OpenAI no forma parte de la iniciativa de seguridad de IA de Nvidia

Nvidia ha lanzado un nuevo consorcio de más de 100 empresas a nivel mundial para abordar los agentes de IA peligrosos, pero OpenAI no participa. A pesar de su ausencia, un portavoz de OpenAI confirmó que la empresa apoya los esfuerzos de Nvidia. La iniciativa, llamada Open Agent Safety Platform, incluye la tecnología de seguridad de agentes de IA de código abierto de Nvidia y tiene como objetivo prevenir incidentes relacionados con agentes de IA peligrosos. OpenAI está colaborando con Nvidia en OpenShell, un entorno de pruebas de código abierto diseñado para evitar que los agentes escapen. Hugo Delangue, fundador de Hugging Face, destacó que los agentes de OpenAI habían atacado previamente a Hugging Face, lo que sugiere que la plataforma podría ayudar a prevenir tales incidentes. Sin embargo, el componente de hardware de la plataforma, Nvidia Sentry, sigue siendo de propiedad exclusiva de Nvidia y está diseñado para procesadores BlueField-4. Mientras que competidores como Arm e Intel se han unido, la ausencia de OpenAI destaca su deseo de independencia de Nvidia y sus propias iniciativas de seguridad de IA, incluida la consorcio Defense Factory.