Bottlecap AI lança ThinkingCap-Qwen3.8-27B com menor uso de tokens

A BottleCap AI apresentou o ThinkingCap-Qwen3.8-27B, uma versão aprimorada do modelo Qwen3.8-27B, projetada para minimizar o uso de tokens de raciocínio sem comprometer as capacidades principais. O modelo alcança uma redução de 37,2% no uso médio de tokens em 12 benchmarks, embora a precisão média diminua em 0,86pp para 85,79%. Disponível via vLLM ou SGLang com versões FP8, NVFP4, GGUF e MLX, o modelo está disponível em um repositório restrito, com uso comercial exigindo um acordo com a BottleCap. O foco da atualização foi reduzir o uso desnecessário de tokens, preservando a capacidade de raciocínio, a capacidade de seguir instruções e a segurança. Os principais benchmarks apresentam resultados mistos, com cortes significativos de tokens em tarefas de conhecimento e multilinguagem, como MMMLU e MMLU-Pro. No entanto, o modelo mantém o desempenho em tarefas de recuperação de longo contexto e agentes, com apenas pequenas quedas de precisão. A principal troca é na tarefa AIME 2026, onde a precisão diminui em 3,85pp para uma redução de 30,2% nos tokens. A BottleCap recomenda o uso da configuração xhigh de esforço de raciocínio para o melhor equilíbrio entre precisão e uso de tokens.