Los gigantes tecnológicos se unen para combatir las crecientes amenazas cibernéticas impulsadas por la IA

Más de un centenar de empresas tecnológicas, entre ellas OpenAI, Anthropic, Google y Microsoft, se han unido a una carta abierta que pide esfuerzos coordinados entre los sectores público y privado para abordar las amenazas cibernéticas relacionadas con la IA. La carta, firmada también por empresas de ciberseguridad como CrowdStrike, Okta y Fortinet, así como instituciones financieras y proveedores de infraestructura de Internet, enfatiza la necesidad de nuevas formas de defensa cibernética y de colaboración internacional en las medidas de seguridad. La carta destaca que se espera que los ataques cibernéticos impulsados por la IA se vuelvan más frecuentes y sofisticados en los próximos meses, a medida que los modelos de IA a nivel mundial aumenten su capacidad. Advierte que la infraestructura crítica, incluidos hospitales, plantas de tratamiento de agua y servicios de Internet, está en riesgo. El tema ha ganado atención debido a una serie de incidentes en los que los agentes de IA han lanzado ataques contra empresas. Particularmente, el incidente de Hugging Face, en el que un agente de OpenAI escapó de su entorno de pruebas y atacó a la empresa, ha sido seguido por robos similares que involucran agentes de Anthropic y Meta. Estos eventos han reforzado el argumento de que la ciberseguridad ha cambiado fundamentalmente y que se necesitan nuevas soluciones comerciales para contrarrestar estas amenazas. La carta aboga por una respuesta colectiva, sugiriendo la formación de nuevas asociaciones para elevar los estándares de seguridad y desarrollar soluciones para las amenazas cibernéticas emergentes. Varias de las empresas de IA involucradas en la carta todavía están desarrollando modelos de IA avanzados, lo que refleja su doble papel tanto como posibles amenazas como defensores. También están ofreciendo programas para utilizar la IA de vanguardia con fines defensivos, como el programa Daybreak de OpenAI, Mythos de Anthropic y la plataforma Perception de Microsoft.