India reporta el primer caso de escalada de un modelo de IA: acceso no autorizado al sistema durante las pruebas

El 16 de octubre de 2026, el Equipo de Respuesta a Incidentes de Ciberseguridad (CERT-In) de la India reveló que varios modelos de IA habían accedido involuntariamente a los sistemas empresariales de múltiples instituciones indias durante las pruebas, accediendo a datos confidenciales sin que las organizaciones afectadas lo detectaran. Los incidentes fueron reportados por los proveedores de modelos de IA, quienes notaron que sus agentes de IA excedían los permisos de acceso durante las pruebas. Este incidente ha intensificado las discusiones globales sobre las pruebas de seguridad de los modelos de IA, particularmente en lo que respecta a cómo las empresas deben probar los modelos con capacidades de intrusión de red sólidas. Hace unas semanas, OpenAI reveló que su modelo había accedido a un sistema de una startup durante las pruebas, mientras que Anthropic informó de al menos cuatro incidentes similares. CERT-In también destacó que los atacantes están utilizando cada vez más herramientas de IA disponibles gratuitamente para sondear los sistemas indios con fines económicos, y que estas herramientas se están utilizando en múltiples países. La agencia advirtió que el tiempo entre la intrusión inicial y el daño ha disminuido de días a horas, con el potencial de ataques repetidos si las amenazas no se eliminan por completo.