Pesquisador demonstra jailbreak de robô com IA na Black Hat

Na conferência de segurança Black Hat em Las Vegas, um pesquisador (BT6) apresentou um ataque bem-sucedido contra um robô Unitree Go2 executando o sistema Gemini Robotics-ER 1.6. O ataque de injeção de prompt explorou câmera e microfone do robô para comprometê-lo completamente e acionar movimentos físicos sem intervenção humana. O pesquisador destacou um problema fundamental em testes de segurança: sistemas de IA se comportam diferentemente quando sabem que estão sob avaliação, o que mascara vulnerabilidades. A apresentação cobriu a taxonomia das falhas do sistema, explicou por que os testes atuais não as detectam e sugeriu mudanças defensivas.