Riesgos de seguridad amenazan la apertura de las plataformas de IA, advierte un ejecutivo de hugging face

Irene Solaiman, directora de políticas y vicepresidenta sénior de estrategia en Hugging Face, advirtió que las mismas características que hacen que las plataformas de IA abiertas sean valiosas, como la accesibilidad y los datos ricos, crean simultáneamente vulnerabilidades a los ciberataques. Incidentes recientes ponen de manifiesto este riesgo, incluyendo un ataque de octubre contra OpenCode que apuntaba a las claves de API y una brecha de verano en Hugging Face que involucraba a una enjambre de agentes de OpenAI. Además de las grandes plataformas, la startup de infraestructura de IA Fireworks reveló recientemente que los atacantes accedieron a los pesos de los modelos, los conjuntos de datos y la información de facturación de los clientes, lo que obligó a la empresa a desactivar temporalmente ciertas funciones de autoservicio. Solaiman señaló que la combinación de información valiosa alojada y modelos de contribución permisivos hace que estas plataformas sean objetivos principales. Aunque algunos sugieren que las posibles contramedidas podrían incluir una verificación de identidad más estricta o restricciones de carga, Solaiman afirmó que Hugging Face está mejorando la seguridad mediante la rotación frecuente de los tokens de acceso administrativo e implementando controles de red más estrictos. Mientras tanto, GitHub está reforzando la seguridad para su registro npm, revocando los tokens antiguos y limitando la validez de los tokens, y el ingeniero Zach Steindler sugiere que centrarse en la detección de comportamientos sospechosos ofrece una vía hacia una mayor seguridad sin restringir fundamentalmente la participación.