Herramientas de IA vinculadas a la implementación no autorizada de código en redes corporativas

Los investigadores han descubierto que varias herramientas de IA, incluyendo Claude, Codex y Hermes, podrían haber instalado involuntariamente código sin propiedad dentro de las redes corporativas. Los hallazgos se basan en una investigación realizada por una startup de perfil bajo con sede en Israel, que escaneó 6.214 dominios activos pertenecientes a empresas de defensa, empresas del Fortune 500 y grandes empresas tecnológicas. El estudio reveló que se encontraron 8.265 archivos llamados llms.txt y llms-full.txt en estos dominios, de los cuales 120 apuntaban a paquetes de código o nombres de dominio no registrados. Estos archivos, que sirven como resúmenes de contenido de sitios web legibles por máquinas, son similares al estándar robots.txt utilizado por los motores de búsqueda. Para probar las implicaciones de estos archivos, los investigadores registraron algunos de los nombres y alojaron paquetes, lo que provocó una respuesta de una empresa del Fortune 500 en un plazo de una hora. Con el tiempo, los investigadores recibieron respuestas de varias otras empresas, incluyendo empresas adicionales del Fortune 500 y startups. El sistema de 'beacon' utilizado para supervisar estas respuestas también rastreó la cadena de procesos principales que conducían a las instalaciones, identificando finalmente la participación de agentes de codificación como Claude, Codex y Hermes. El estudio destaca un posible riesgo de seguridad, ya que al menos un sitio mal configurado estaba dirigiendo a los visitantes, tanto humanos como de IA, a malware en vivo. Los investigadores enfatizan que los archivos llms.txt y llms-full.txt, aunque están diseñados para proporcionar resúmenes de contenido estructurado, podrían utilizarse para implementar código malicioso. Anthropic, OpenAI y Nous Research no respondieron a las solicitudes de comentarios en el momento de la publicación. Los hallazgos subrayan la necesidad de una configuración y supervisión cuidadosas de estos archivos para evitar la ejecución no autorizada de código dentro de las redes corporativas.