Nuevos riesgos de seguridad en la comunicación de agentes de IA destacados

El creciente uso de agentes de IA en millones de organizaciones ha introducido nuevas vulnerabilidades, permitiendo a los atacantes manipular estos sistemas para que realicen acciones dañinas, como robar datos confidenciales. En los últimos cinco meses, Google y otras cuatro organizaciones, a pesar de sus diversos campos, han informado de vulnerabilidades que permiten la propagación de instrucciones maliciosas entre los agentes de IA dentro de una red. Esta técnica, una forma de inyección de prompts, se dirige a agentes específicos, como herramientas de traducción o análisis de datos, aprovechando las débiles protecciones que a menudo no previenen la propagación de comandos dañinos. El investigador independiente Syed Anas Mohiuddin llevó a cabo pruebas en agentes de Google, JP Morgan Chase, Weviate, Rapid7, el directorado digital interministerial del gobierno francés y el gobierno federal de EE. UU. Sus ataques de prueba revelaron debilidades en el Protocolo de Contexto del Modelo (MCP), un estándar para la comunicación interna de los agentes de IA. Los hallazgos destacan los riesgos asociados con las interacciones basadas en la confianza entre los agentes, enfatizando la necesidad de medidas de seguridad más sólidas en los sistemas de IA.