Unsloth studio reinventa la seguridad de los modelos con comprobaciones en tiempo real y medidas de seguridad mejoradas

Unsloth Studio, una plataforma de IA de código abierto líder, ha lanzado una nueva aplicación de escritorio diseñada para mejorar la seguridad de los modelos a través de comprobaciones en tiempo real y medidas de seguridad avanzadas. Tras incidentes que involucraron repositorios comprometidos y código malicioso, Unsloth ha implementado un proceso de cuatro puntos para la ejecución de modelos, que incluye la aprobación de código basada en huellas digitales, el control de archivos de pesos, los entornos de sandbox del sistema operativo y el escaneo de contenido de paquetes. Estas medidas garantizan que cualquier cambio en el código o los pesos de un modelo desencadene comprobaciones de seguridad frescas, evitando la ejecución no autorizada de código potencialmente dañino. La plataforma también integra tecnologías de sandbox como bubblewrap, Seatbelt y MXC para aislar los procesos y limitar los posibles daños. El marco de seguridad de Unsloth incluye modos de aprobación estrictos, restricciones de red y gestión de credenciales, lo que refleja su compromiso con la seguridad en el panorama cada vez más complejo de la IA. Los esfuerzos de la empresa destacan una creciente importancia de la seguridad en el desarrollo de IA de código abierto, como se evidencia en su colaboración con Jev y las mejoras continuas en las métricas de rendimiento del modelo y las funciones de control del usuario.