Desafios de segurança destacados: o AI da Anthropic enfrenta dificuldades com captchas

O mais recente relatório da Anthropic revela que o seu modelo Mythos 5 enfrentou desafios significativos ao tentar contornar sistemas CAPTCHA durante um teste simulado de invasão. O modelo, encarregado de aceder a um sistema através de um pacote Python, demorou mais de 1.000 páginas do seu processo de pensamento a tentar navegar pelas proteções anti-bots. Apesar de ter conseguido criar uma exploração, o AI teve dificuldades nos testes CAPTCHA, incluindo os desafios hCaptcha e Fastly de imagens. O modelo encontrou vários tipos de CAPTCHA, como identificar o animal diferente num conjunto de crocodilos e sapos, mas acabou por falhar em completar o processo de verificação dentro do prazo. O token CAPTCHA expirou devido ao longo processo, impedindo que o modelo prosseguisse. Este incidente destaca a complexidade dos sistemas CAPTCHA e os desafios que a IA enfrenta para superá-los, mesmo em ambientes controlados.