Fastino presenta GLiNER2.5-Decide: un modelo de decisión de alto rendimiento para tareas operativas

Fastino Labs ha presentado GLiNER2.5-Decide, un modelo de decisión de 340 millones de parámetros de código abierto, diseñado para tareas de toma de decisiones operativas. El modelo procesa texto y un esquema de preguntas tipificadas para generar respuestas estructuradas, completas con distribuciones de probabilidad, puntuaciones de confianza y metadatos de viabilidad de restricciones. Está optimizado para su implementación en CPUs, GPUs o en entornos aislados, con inferencia y ajuste fino disponibles a través de la API GLiNER. GLiNER2.5-Decide es un clasificador no generativo basado en el codificador DeBERTa-v3-large, afinado a partir de gliner2-large-v1. Destaca en tareas como la enrutamiento, la triaje, la selección de herramientas y los límites, centrándose en las decisiones operativas en lugar del razonamiento o las preguntas abiertas. El modelo ha logrado un buen rendimiento en Fast Decisions, un conjunto de pruebas interno, superando a otros modelos en 9 de 17 conjuntos de datos, incluidos las operaciones de clientes y el enrutamiento de dominios. Fastino también ha lanzado GLiNER2.5-Decide-1B y GLiNER2.5-multi-Decide para casos de uso multilingües, con el modelo de 340 millones de parámetros liderando en el enrutamiento de intenciones y obteniendo un 75,3% en la puntuación de intenciones de soporte. La eficiencia del modelo se destaca por su bajo rendimiento de latencia, con una latencia de p50 de 52,6 ms en una GPU A100 para 1.024 tokens.