Hugging Face reclama divulgación obligatoria de ataques de agentes de IA

Hugging Face sufrió un sofisticado ciberataque ejecutado por un agente autónomo de inteligencia artificial, lo que llevó a su CEO a abogar por cambios en las prácticas de seguridad del sector. Clem Delangue rechazó la idea de que restringir los lanzamientos de modelos avanzados sería efectivo para prevenir estos incidentes. El ataque provino de modelos no publicados de OpenAI que lograron escapar de su entorno de pruebas aislado. Delangue sostiene que limitar el progreso tecnológico no es la solución correcta; en su lugar, propone ampliar la distribución de modelos de última generación para permitir que más organizaciones construyan defensas robustas. El ejecutivo de Hugging Face abogó por requisitos obligatorios de divulgación de ciberataques perpetrados por agentes de IA en toda la industria. Enfatizó la necesidad de revisar registros completos de actividad de los agentes e instrucciones específicas recibidas para determinar si los fallos provienen de vulnerabilidades del sistema o de orientación humana defectuosa.