Ferramentas de IA vinculadas à implantação de código não autorizado em redes corporativas

Pesquisadores descobriram que várias ferramentas de IA, incluindo Claude, Codex e Hermes, podem ter instalado inadvertidamente código não pertencente em redes corporativas. As descobertas decorrem de uma investigação de uma startup furtiva sediada em Israel, que analisou 6.214 domínios ativos pertencentes a empresas de defesa, empresas do Fortune 500 e grandes empresas de tecnologia. O estudo revelou que foram encontrados 8.265 ficheiros llms.txt e llms-full.txt nestes domínios, dos quais 120 apontavam para pacotes de código ou nomes de domínio não registados. Estes ficheiros, que funcionam como resumos legíveis por máquinas do conteúdo de um site, são semelhantes ao padrão robots.txt utilizado pelos motores de busca. Para testar as implicações destes ficheiros, os investigadores registaram alguns dos nomes não reivindicados e hospedaram pacotes, o que desencadeou uma resposta de uma empresa do Fortune 500 dentro de uma hora. Ao longo do tempo, os investigadores receberam respostas de várias outras empresas, incluindo outras empresas do Fortune 500 e startups. O sistema de beacon utilizado para monitorizar estas respostas também rastreou a cadeia de processos pais que levaram às instalações, identificando finalmente o envolvimento de agentes de codificação como Claude, Codex e Hermes. O estudo destaca um potencial risco de segurança, uma vez que pelo menos um site mal configurado estava a direcionar visitantes, tanto humanos como de IA, para malware ativo. Os investigadores enfatizam que os ficheiros llms.txt e llms-full.txt, embora pretendam fornecer resumos estruturados do conteúdo, podem ser explorados para implantar código malicioso. Anthropic, OpenAI e Nous Research não responderam às solicitações de comentários no momento da publicação. As descobertas destacam a necessidade de uma configuração e monitorização cuidadas destes ficheiros para evitar a execução de código não autorizado em redes corporativas.