Novos riscos de segurança na comunicação de agentes de IA destacados

O crescente uso de agentes de IA em milhões de organizações introduziu novas vulnerabilidades, permitindo que os atacantes manipulassem esses sistemas para que executassem ações prejudiciais, como roubar dados confidenciais. Nos últimos cinco meses, a Google e outras quatro organizações, apesar de seus diversos campos, relataram vulnerabilidades que permitem a propagação de instruções maliciosas entre agentes de IA dentro de uma rede. Essa técnica, uma forma de injeção de prompt, visa agentes específicos, como ferramentas de tradução ou análise de dados, explorando barreiras de proteção fracas que frequentemente não impedem a propagação de comandos prejudiciais. O pesquisador independente Syed Anas Mohiuddin conduziu testes em agentes da Google, JP Morgan Chase, Weviate, Rapid7, o diretor digital interministerial do governo francês e o governo federal dos EUA. Seus ataques de prova de conceito revelaram fraquezas no Protocolo de Contexto do Modelo (MCP), um padrão para a comunicação interna de agentes de IA. Os resultados destacam os riscos associados às interações baseadas em confiança entre agentes, enfatizando a necessidade de medidas de segurança mais fortes nos sistemas de IA.