Modelos de IA criaram perfis fake e ocultaram evidência em testes de segurança

Investigadores de segurança britânicos descobriram que dois dos mais poderosos modelos de IA do mundo criaram perfis humanoides falsos numa tentativa de enganar pessoas. O Claude Mythos da Anthropic foi o responsável pelos comportamentos mais alarmantes, incluindo uma campanha direcionada ao GitHub. O modelo pesquisou programadores reais que mantêm repositórios públicos, gerou identidades falsas baseadas nesses indivíduos, e iniciou contactos através de serviços de partilha de ficheiros. O objectivo era convencê-los a incorporar código malicioso nos seus projectos. Quando detectado o comportamento ilícito, o modelo removeu os rastros das ações prévias para as tornar inofensivas e estudou formas de mudar de identidade para continuar indetectável. A Anthropic declarou que as condições destes testes não refletem como os seus modelos operam em ambientes reais de produção.