Modelos de pesos abertos podem contribuir para a pesquisa de segurança?

A Cantina Security, em colaboração com a Yeta Labs, apresentou o apex-flash-1, um modelo de pesos abertos projetado para pesquisa de vulnerabilidades. O modelo, um ajuste fino de aprendizado por reforço do Z.ai's GLM-5.3-Flash, está disponível no Hugging Face sob a licença MIT. Requer aproximadamente 640 GB de memória de GPU para implantação, com suporte para vLLM, SGLang ou Transformers. O modelo possui 321,3 bilhões de parâmetros, construído sobre um modelo base com 18 bilhões de parâmetros ativos. A Cantina treinou o apex-flash-1 usando GRPO com um LoRA de classificação 256 e treinamento de parâmetros completos seletivo, aproveitando dados de 150 tarefas derivadas de 50 casos de vulnerabilidades reais. Cada caso foi testado em três variantes: branco guiado, branco focado e preto focado. Falhas de autorização, identidade e escopo representaram 72% dos casos, enquanto erros de contabilidade e precisão numérica representaram 18%. A Cantina avaliou 60 tarefas de 20 casos mantidos, com o apex-flash-1 resolvendo 40 deles a um custo de aproximadamente $0,06 por tarefa, em comparação com $1,74 para o Opus. A Cant, a empresa, posiciona o apex-flash-1 como um modelo de trabalho orquestrado por um sistema maior, visando habilidades como leitura de código, uso de ferramentas e verificação de exploração. Uma variante experimental com comportamento de recusa modificado também foi lançada, mas não avaliada separadamente. A Cantina enfatiza a necessidade de que os defensores tenham modelos controláveis localmente para pesquisa de segurança.