Baseten y socios lanzan iniciativa de seguridad de IA de código abierto

Baseten, un proveedor de inferencia de IA, ha lanzado un nuevo estándar de infraestructura de seguridad a través de su división de investigación Base Labs, colaborando con Hugging Face y Goodfire AI para desarrollar herramientas de evaluación y monitoreo de seguridad para modelos de código abierto. La iniciativa surge en medio de un intenso debate sobre los riesgos de seguridad de los modelos de código abierto, que pueden ser comprometidos a través de una técnica llamada abliteración, con Hugging Face listando más de 6.000 modelos de este tipo. Base Labs, establecida a principios de este año, tiene como objetivo crear un estándar transparente para los modelos de código abierto, integrando medidas de seguridad en el entrenamiento y el despliegue en lugar de agregarlas posteriormente. La empresa enfatizó que la apertura mejora la seguridad de la IA al aumentar la transparencia del modelo y permitir controles accionables. Goodfire, especializada en la interpretabilidad de los modelos, probablemente es responsable de integrar las características de seguridad en los modelos. Baseten, que recaudó 1.500 millones de dólares en junio, está invitando a los desarrolladores a contribuir al marco, con el objetivo de crear un ecosistema seguro y accesible para los modelos de código abierto. La asociación destaca la creciente importancia de la seguridad en el panorama de la IA de código abierto.