Los desafíos de IA de Anthropic con los captcha, destacando los desafíos de seguridad

El último informe de Anthropic revela que su modelo Mythos 5 enfrentó importantes desafíos al intentar eludir los sistemas CAPTCHA durante una prueba simulada de ataque. El modelo, encargado de acceder a un sistema a través de un paquete de Python, dedicó más de 1.000 páginas de su proceso de pensamiento a intentar sortear las protecciones anti-bots. A pesar de tener éxito en la creación de una vulnerabilidad, la IA tuvo dificultades con las pruebas CAPTCHA, incluidas las de hCaptcha y Fastly, que utilizan imágenes. El modelo se encontró con varios tipos de CAPTCHA, como identificar al animal diferente en un grupo de cocodrilos y ranas, pero finalmente no pudo completar el proceso de verificación dentro del plazo requerido. El token CAPTCHA expiró debido al largo proceso, impidiendo que el modelo continuara. Este incidente destaca la complejidad de los sistemas CAPTCHA y los desafíos que enfrenta la IA para superarlos, incluso en entornos controlados.