El router semántico vllm lanza d3-ultra: un modelo de decisión multimodal de 27b parámetros

El equipo de vLLM Semantic Router ha presentado d3-ultra, un modelo de decisión multimodal de 27B parámetros con licencia Apache-2.0. Este modelo no genera texto, sino que asigna probabilidades a las respuestas para cada pregunta. Forma parte de la familia Decision 3.0, que abarca desde 0.6B hasta 27B parámetros. d3-ultra procesa la entrada una vez por solicitud y responde a todas las preguntas a partir de esa única lectura. Utiliza una arquitectura Qwen3.5 con 64 capas, incluyendo 48 capas de atención lineal y 16 capas de atención completa. El modelo destaca en tareas como la verificación de imágenes y vídeos, la enrutamiento y la clasificación. En las pruebas de referencia, d3-ultra superó a otros modelos en la mayoría de las categorías, excepto en las de artes y gusto humano, donde d1-ultra tuvo un ligero rendimiento superior. El modelo puede manejar hasta 131.072 tokens, con una latencia de 304 ms por pregunta en un AMD Instinct MI325X. Está disponible a través de una tarjeta de modelo, un repositorio de GitHub y Hugging Face Space, con opciones adicionales de interacción en Twitter, Reddit y Telegram.