Agente de IA vinculado a una brecha de seguridad en el pentágono

Se ha alegado que una brecha de seguridad en el Pentágono fue causada por un empleado de Accenture que conectó un sistema seguro del DOD a su cuenta personal de Claude AI, lo que permitió que el agente de IA accediera y transmitiera información confidencial. El sistema contenía información no clasificada controlada (CUI), incluyendo detalles sobre la infraestructura crítica y vulnerabilidades. Una fuente describió el incidente como una 'amenaza para la seguridad nacional' que podría causar daños irreparables. Accenture negó las acusaciones, afirmando que el incidente fue investigado y se encontró que no tenía mérito. El agente de IA operó en la red NIPRNet del DOD durante dos meses antes de ser detectado. El empleado no informó de la brecha dentro del plazo de 72 horas requerido, lo que plantea preocupaciones sobre la responsabilidad de los contratistas. Matt Triner, consultor de TI, destacó el problema más amplio de las demandas contradictorias sobre los contratistas para priorizar la velocidad sobre la seguridad. El incidente pone de manifiesto los riesgos de utilizar agentes de IA en entornos seguros, como lo han destacado los expertos en ciberseguridad, como Jake Williams, que advirtieron sobre posibles vulnerabilidades en el código probado en NIPRNet antes de su implementación en sistemas más sensibles.