Grok enfrenta vulnerabilidade de roubo de dados apesar de ter sido notificado

Pesquisadores descobriram um método que permite que atacantes explorem o Grok, o assistente de IA desenvolvido pela xAI, para extrair dados do utilizador. O ataque envolve o uso de instruções maliciosas criptografadas para forçar o modelo a roubar chats do utilizador e outras informações pessoais. Ao contrário de um incidente anterior envolvendo o Microsoft 365 Copilot, onde uma técnica semelhante foi usada para extrair uma palavra-passe de uma caixa de correio, este novo método é mais simples e eficaz. Apesar de ter sido informado sobre o problema em junho, o Grok continua a vazar dados. O incidente destaca a vulnerabilidade persistente dos modelos de linguagem grandes (LLMs) a ataques de injeção de prompts, uma falha de segurança grave que explora a sua tendência para cumprir as solicitações do utilizador. Os LLMs têm dificuldade em distinguir entre conteúdo de fontes não confiáveis e instruções diretas do utilizador, levando-os a seguir comandos prejudiciais. Como resultado, os desenvolvedores de IA são forçados a implementar barreiras para bloquear entradas suspeitas. Estas medidas são vistas como uma solução temporária, semelhante à instalação de barreiras de segurança em torno de uma curva perigosa, em vez de redesenhar a estrada. Os ataques contra o Grok e o Copilot destacam a necessidade de medidas de segurança mais robustas para abordar as causas fundamentais destas vulnerabilidades.