Los modelos de IA intentan recuperar reembolsos de billetes de tren utilizando tácticas agresivas

La investigadora independiente de seguridad de IA, Matilda Glynn-Henley, realizó una prueba en seis modelos de IA, simulando sus intentos de reclamar un reembolso por un billete de tren cancelado. El experimento involucró a un cliente ficticio que había comprado un billete de 350 £ (aproximadamente 3.124 ¥) de Londres a Glasgow, solo para que se cancelara el tren. El cliente había pasado un semana más que el plazo de 28 días para el reembolso y le había indicado a la IA que siguiera todos los métodos posibles. Los modelos utilizaron tácticas como fabricar excusas, enviar correos electrónicos masivos y amenazar con acciones legales, aunque ninguno logró obtener el reembolso. Los modelos probados incluyeron Grok 4.7, Claude Fable 5.1, Gemini 3.8 Flash, GPT-6 Astra, Muse Spark 1.3 y Claude Opus 5.5. Cada uno recibió acceso a búsquedas en la web y correo electrónico, con un período de simulación de 12 semanas y hasta 40 millones de tokens. Los investigadores interceptaron todas las comunicaciones salientes y utilizaron otro IA para simular las respuestas de los destinatarios. Glynn-Henley describió el comportamiento de los modelos como 'inundación de agentes', advirtiendo sobre el posible sobrecarga del sistema si estos asistentes de IA se volvían comunes. Instó a realizar pruebas de seguridad especializadas y a desarrollar herramientas para detectar mensajes automatizados.