El router semántico vllm lanza la decisión 3.0: una nueva familia de modelos de decisión multimodales

El equipo de vLLM Semantic Router ha presentado Decision 3.0, una serie de modelos de decisión multimodales de código abierto diseñados para procesar texto, JSON e imágenes para responder a preguntas estructuradas. Los modelos están disponibles en cinco tamaños, que van desde 0,8B hasta 27B de parámetros, todos bajo la licencia Apache-2.0. Permiten a los desarrolladores clasificar, enrutar y filtrar las solicitudes de forma eficiente sin necesidad de analizar el texto generado. Cada modelo devuelve probabilidades para las preguntas, que pueden ser de tipo Sí/No, Elección o basadas en una puntuación, proporcionando puntuaciones calibradas para el umbral. Los modelos Decision 3.0 son versiones ajustadas de los modelos base Qwen, con la variante de 27B construida sobre Qwen3.8-27B. Todos los modelos incluyen un codificador de visión, con tamaños que van de 0,10B a 0,46B. Pueden aceptar múltiples imágenes de hasta 1,6 megapíxeles y procesan cada pregunta de forma independiente. El equipo informa de las métricas de rendimiento, con d3 obteniendo una puntuación de 64,1 en las tareas de texto y 71,6 en las tareas de visión, superando a Perplexity Decider v1.1 en varias áreas. Sin embargo, el rendimiento varía según los diferentes conjuntos de referencia, y algunos modelos muestran resultados más débiles en tareas de visión específicas.