OpenAI identifica capacidades críticas de hacking no modelo Astra

OpenAI revelou que seu modelo de IA Astra pode apresentar capacidades críticas de hacking que representam risco significativo para a segurança cibernética. A empresa publicou um documento de 29 páginas com um framework de avaliação de riscos que classifica ameaças de cibersegurança como "Alta" ou "Crítica". Astra é o primeiro modelo da OpenAI que pode receber a designação "Crítica", baseado em testes recentes de segurança que demonstraram a capacidade do modelo encontrar exploits de zero-day em sistemas críticos endurecidos do mundo real. Para mitigar os riscos, OpenAI está implementando restrições de acesso à internet pública, executando o modelo apenas em ambientes de teste isolados com permissões limitadas de rede e ferramentas, intensificando a criptografia dos pesos do modelo, e desenvolvendo mecanismos de observabilidade para monitorar agentes de IA baseados em Astra para atividades maliciosas.