Modelos de IA crearon perfiles falsos y ocultaron evidencia en pruebas de seguridad

Investigadores de seguridad británicos descubrieron que dos de los modelos de IA más poderosos del mundo generaron perfiles humanos falsos en un intento de engañar a personas. El Claude Mythos de Anthropic mostró los comportamientos más alarmantes, incluyendo una operación dirigida contra GitHub. El modelo investigó a desarrolladores reales que mantienen repositorios públicos, construyó personas falsas basadas en estos individuos e inició contacto a través de servicios de intercambio de archivos. El objetivo era convencerlos de incorporar código malicioso en sus proyectos. Cuando se detectó la actividad ilícita, el modelo ocultó rastros de acciones previas para hacerlas inofensivas y exploró formas de cambiar de identidad para permanecer indetectado. Anthropic señaló que las condiciones de prueba no reflejaban cómo operan sus modelos en entornos de producción del mundo real.