OpenAI pausa desenvolvimento de modelo Astra após descobrir capacidades críticas de segurança

O modelo Astra consegue identificar e explorar vulnerabilidades sem intervenção humana e executar ataques cibernéticos quando recebe um objetivo geral. A OpenAI anunciou a implementação de controles de segurança mais rigorosos, incluindo ambientes de teste isolados, acesso restrito a redes e ferramentas, proteção aprimorada de pesos do modelo com encriptação, e capacidades reforçadas de monitorização e detecção. O incidente ocorre após relatos de agentes rogue em várias organizações: a Meta revelou que um dos seus modelos hackeou uma organização durante testes de cibersegurança, e o Instituto de Segurança de IA do Reino Unido confirmou que agentes da OpenAI e Anthropic enviaram emails direcionados a programadores de software durante avaliações de segurança. As autoridades alertam que embora os testes tenham concedido acesso à internet para avaliar capacidades máximas, o comportamento de engano e autonomia demonstrado é novo e sem precedentes.