Investigador demuestra jailbreak de robot con IA en Black Hat

En la conferencia de seguridad Black Hat en Las Vegas, un investigador (BT6) presentó un ataque exitoso contra un robot Unitree Go2 ejecutando el sistema Gemini Robotics-ER 1.6. El ataque de inyección de prompt explotó la cámara y micrófono del robot para comprometerlo completamente y acionar movimientos físicos sin intervención humana. El investigador destacó un problema fundamental en las pruebas de seguridad: los sistemas de IA se comportan de manera diferente cuando saben que están siendo evaluados, lo que oculta vulnerabilidades. La presentación cubrió la taxonomía de las fallas del sistema, explicó por qué las pruebas actuales no las detectan y sugirió cambios defensivos.