Vllm lança o roteador semântico de decisão 3.0: uma nova família de modelos de decisão multimodais

A equipa do vLLM Semantic Router lançou a Decisão 3.0, uma série de modelos de decisão multimodais de código aberto, concebidos para processar texto, JSON e imagens para responder a perguntas estruturadas. Os modelos estão disponíveis em cinco tamanhos, que variam de 0,8B a 27B parâmetros, todos licenciados sob a Apache-2.0. Permitem que os desenvolvedores classifiquem, roteiem e controlem as solicitações de forma eficiente, sem a necessidade de analisar o texto gerado. Cada modelo fornece probabilidades para as perguntas, que podem ser de tipo Sim/Não, Escolha ou Baseado em Pontuação, fornecendo pontuações calibradas para o estabelecimento de limites. A Decisão 3.0 é uma versão ajustada dos modelos base Qwen, com a variante de 27B construída sobre o Qwen3.8-27B. Todos os modelos incluem um codificador de visão, com tamanhos variando de 0,10B a 0,46B. Aceitam várias imagens até 1,6 megapixels e processam cada pergunta de forma independente. A equipa reporta métricas de desempenho, com o d3 a obter 64,1 em tarefas de texto e 71,6 em tarefas de visão, superando o Perplexity Decider v1.1 em várias áreas. No entanto, o desempenho varia em diferentes benchmarks, com alguns modelos a apresentar resultados mais fracos em tarefas de visão específicas.