El contrabando de ascii se convierte en herramienta de spam al explotar una vulnerabilidad de seguridad en la IA

Un método que antes se utilizaba para atacar sistemas de IA, conocido como contrabando de ASCII, ahora está siendo utilizado por los spammers para eludir los filtros de correo electrónico. La técnica permite ocultar instrucciones maliciosas dentro de texto aparentemente inofensivo, lo que dificulta que los sistemas de IA las detecten, al tiempo que permanecen invisibles para los lectores humanos. Esta práctica, que llamó la atención hace dos años, implica el uso de etiquetas Unicode que imitan a los caracteres ASCII estándar, pero que son indetectables para los humanos. Estas etiquetas, como U+E0041 para 'A' y U+E0061 para 'a', permiten a los atacantes insertar indicaciones dañinas en correos electrónicos u otros contenidos. Esta técnica ha sido adoptada por los spammers para evadir los mecanismos de detección en las plataformas de correo electrónico. La técnica explota la capacidad de los modelos de lenguaje grandes para procesar estas instrucciones ocultas, lo que permite que el contenido malicioso pase a través de los filtros de seguridad sin ser detectado. El contrabando de ASCII funciona codificando indicaciones maliciosas de una manera que es legible para las computadoras, pero casi invisible para los usuarios. Esto ha generado una creciente preocupación entre los expertos en ciberseguridad, ya que la técnica continúa evolucionando y plantea nuevos desafíos para la seguridad de la IA. El uso de tales métodos destaca la carrera armamentista en curso entre los atacantes y los defensores en el ámbito de los sistemas de seguridad impulsados por la IA.