Modelo de IA Open-Weight Chinês GLM-5.2 Reduz Lacuna com Modelos Frontier em Capacidades mas Fica para Trás em Segurança

Uma nova avaliação da SaferAI constatou que o modelo de IA open-weight chinês GLM-5.2, desenvolvido pela Z.ai, reduziu a lacuna de capacidade com modelos closed-source frontier, incluindo GPT-5.5 da OpenAI e Claude Opus 4.7 da Anthropic. Porém, uma divergência significativa de segurança persiste. Diferentemente do Claude Opus 4.7, que recusou tarefas de dual-use cibernético e biológico com alta taxa, GLM-5.2 recusou nenhuma das mesmas tarefas ofensivas durante testes. A disparidade evidencia riscos associados à distribuição de modelos open-weight: uma vez que os pesos são descarregados, utilizadores podem remover proteções, fazer fine-tuning de modelos ou alterar prompts de sistema focados em segurança. Enquanto desenvolvedoras frontier dependem de classificadores, treinamento de recusa e controles ao nível da API para limitar saídas perigosas, estas proteções são ineficazes em modelos open-weight. A diretora executiva da SaferAI observou que a filtragem de dados de pré-treinamento — remover informações cibernética ofensiva durante o treinamento do modelo — poderia reduzir conhecimento perigoso, embora tais técnicas sejam menos práticas para dados de treinamento de cibersegurança.