Nvidia Forma Equipo de Seguridad de IA para Evaluar Agentes Inteligentes

Nvidia está estableciendo un nuevo equipo dedicado a la seguridad de IA y ciberseguridad. Según anuncios de empleo divulgados recientemente, la empresa está reclutando a un ingeniero principal para liderar el departamento, junto con investigadores de seguridad, evaluadores y gerentes sénior. El equipo será responsable de evaluar la seguridad de los agentes de IA antes de su implementación y de desarrollar herramientas que utilicen IA para corregir automáticamente vulnerabilidades de software. La iniciativa refleja el énfasis de Nvidia en la seguridad de IA mientras invierte en modelos de pesos abiertos. La empresa cree que los modelos de pesos abiertos, la transparencia técnica y la revisión científica amplia son esenciales para mantener el liderazgo de EE.UU. en IA y fortalecer las defensas de ciberseguridad. Esto contrasta con el enfoque de empresas como OpenAI y Anthropic, que desarrollan modelos cerrados. Nvidia ha expresado cada vez más apoyo público a los modelos de pesos abiertos en los últimos meses.