Anthropic introduce nuevas medidas de seguridad para contrarrestar los ataques de destilación de modelos

Anthropic, una empresa líder en IA, ha presentado nuevas medidas de seguridad para evitar que los competidores repliquen las capacidades de su modelo de IA Claude a través de ataques de destilación de modelos. Estas medidas han reducido la cantidad de datos robados durante tales ataques hasta en un 99%. La destilación de modelos, un método en el que los atacantes extraen conocimiento de un modelo, se ha convertido en una preocupación importante para empresas como Anthropic, OpenAI y Google, ya que permite a los competidores replicar capacidades avanzadas a menor coste y a mayor velocidad. El nuevo sistema de seguridad limita significativamente la capacidad de los actores externos para acceder a los procesos de razonamiento interno de Claude, reduciendo el número de tokens extraídos por los atacantes a tan solo una décima o una centésima de los niveles anteriores. Anthropic afirma que el sistema es lo suficientemente robusto para evitar que Claude ayude en el desarrollo de armas biológicas, con una tasa de falsos positivos inferior al 0,1%. La empresa también ha bloqueado decenas de miles de cuentas vinculadas a actividades de destilación, citando un ejemplo que involucra a Zhipu AI, que intentó extraer capacidades de modelos durante el desarrollo de su modelo GLM-5.3. Anthropic advierte que estas actividades plantean riesgos tanto para la seguridad como para la seguridad nacional, enfatizando la necesidad de protecciones más sólidas contra el robo de propiedad intelectual en la industria de la IA.