Nokia apresenta ferramenta de código aberto para transformar llms em modelos de decisão sem treinamento

A Nokia lançou o AnyJev, uma biblioteca Python de código aberto que converte qualquer grande modelo de linguagem (LLM) aberto em um modelo de decisão calibrado sem a necessidade de treinamento. A ferramenta é projetada para ambientes de produção, onde o objetivo é selecionar uma resposta de um conjunto fixo, em vez de gerar uma frase completa. O AnyJev utiliza a interface do Jev, um modelo de decisão lançado pela TypeSafe AI em setembro de 2026. Ele fornece uma pontuação de probabilidade para cada opção, permitindo que os usuários definam um limite para a tomada de decisões. A biblioteca suporta três tipos de perguntas e aborda duas falhas em métodos existentes: sensibilidade à ordem das opções e probabilidades não calibradas. A ferramenta utiliza níveis, com o L0 aplicando correções por meio de preenchimentos e o L1 adicionando o escalonamento de temperatura. Testes com o Qwen3-8B com BANKING77 mostraram resultados promissores. A biblioteca está disponível no PyPI, sob a licença Apache-2.0, e suporta backends de transformers e vLLM. A Nokia incentiva os usuários a verificar o repositório do GitHub e a interagir com sua comunidade nas plataformas de mídia social. O projeto destaca o compromisso da Nokia em avançar as capacidades de tomada de decisões em LLMs por meio da inovação de código aberto. Ao eliminar a necessidade de treinamento, o AnyJev oferece uma solução escalável para implantar modelos de decisão confiáveis em aplicações do mundo real. As métricas de desempenho e as especificações técnicas da ferramenta destacam seu potencial para melhorar a eficiência e a precisão dos sistemas automatizados de tomada de decisões.