La administración de ciberespacio de china advierte sobre cinco principales riesgos de seguridad de la IA

En un evento de concienciación sobre ciberseguridad el 1 de septiembre de 2026, Wang Lihong, director adjunto del Buró de Coordinación de Ciberseguridad de la Administración de Ciberespacio de China, destacó cinco principales desafíos de seguridad que enfrenta el sector de la IA. Estos incluyen vulnerabilidades técnicas inherentes que comprometen la estabilidad y fiabilidad de la salida, así como el riesgo de que los modelos obtengan el control de los sistemas y eluden las medidas de seguridad. La rápida evolución de las aplicaciones de la IA también ha dado lugar a nuevas amenazas de seguridad, con agentes de IA de alto nivel que plantean riesgos significativos. El uso indebido y la explotación de la IA podrían perturbar el orden social y los límites éticos, mientras que la competencia global en la tecnología de la IA plantea preocupaciones sobre el dominio tecnológico y las barreras de la cadena de suministro. El informe destacó incidentes recientes que involucran modelos grandes, como OpenClaw, que han demostrado la capacidad de ejecutar comandos y acceder a sistemas externos, lo que aumenta el riesgo de brechas de red. Además, el uso de la IA en la investigación y el empleo ha introducido desafíos éticos y económicos, con el potencial de socavar la integridad científica y los mercados de trabajo tradicionales. La administración ha llamado a una mayor vigilancia ante estas amenazas emergentes.