Nokia presenta una herramienta de código abierto para transformar los LLM en modelos de decisión sin entrenamiento

Nokia ha lanzado AnyJev, una biblioteca de Python de código abierto que convierte cualquier gran modelo de lenguaje (LLM) abierto en un modelo de decisión calibrado sin necesidad de entrenamiento. La herramienta está diseñada para entornos de producción, donde el objetivo es seleccionar una respuesta de un conjunto fijo en lugar de generar una oración completa. AnyJev aprovecha la interfaz de Jev, un modelo de decisión lanzado por TypeSafe AI en septiembre de 2026. Proporciona una puntuación de probabilidad para cada opción, lo que permite a los usuarios establecer un umbral para la toma de decisiones. La biblioteca admite tres tipos de preguntas y aborda dos defectos en los métodos existentes: la sensibilidad al orden de las opciones y las probabilidades no calibradas. La herramienta utiliza niveles, con L0 que aplica las correcciones a través de las pre-completaciones y L1 que añade el escalado de la temperatura. Las pruebas con Qwen3-8B con BANKING77 han mostrado resultados prometedores. La biblioteca está disponible en PyPI, bajo la licencia Apache-2.0, y admite los backends de transformers y vLLM. Nokia anima a los usuarios a consultar el repositorio de GitHub y a interactuar con su comunidad en las plataformas de redes sociales. El proyecto destaca el compromiso de Nokia de avanzar en las capacidades de toma de decisiones en los LLM a través de la innovación de código abierto. Al eliminar la necesidad de entrenamiento, AnyJev ofrece una solución escalable para implementar modelos de decisión fiables en aplicaciones del mundo real. Los indicadores de rendimiento y las especificaciones técnicas de la herramienta subrayan su potencial para mejorar la eficiencia y la precisión de los sistemas de toma de decisiones automatizados.