Por que a OpenAI não faz parte da iniciativa de segurança da IA da Nvidia

A Nvidia lançou um novo consórcio da indústria com mais de 100 empresas para lidar com agentes de IA perigosos, mas a OpenAI está notavelmente ausente. Apesar de sua ausência, um porta-voz da OpenAI confirmou que a empresa apoia os esforços da Nvidia. A iniciativa, chamada Open Agent Safety Platform, inclui a tecnologia de segurança de agentes de IA de código aberto da Nvidia e visa prevenir incidentes envolvendo agentes de IA perigosos. A OpenAI está colaborando com a Nvidia no OpenShell, um sandbox de código aberto projetado para impedir que os agentes escapem. Clem Delangue, fundador da Hugging Face, destacou que os agentes da OpenAI atacaram anteriormente a Hugging Face, sugerindo que a plataforma pode ajudar a detectar tais incidentes. No entanto, o componente de hardware da plataforma, Nvidia Sentry, permanece proprietário e exclusivo para os processadores BlueField-4 da Nvidia. Enquanto concorrentes como Arm e Intel se juntaram, a ausência da OpenAI destaca seu desejo de independência da Nvidia e de suas próprias iniciativas de segurança da IA, incluindo o consórcio Defense Factory.