Perplexity revela o decider v1.3, adicionando a capacidade de extração de trechos de texto

A Perplexity lançou seus modelos de decisão de código aberto atualizados, pplx-decider-v1.3 e pplx-decider-flash-v1.3. Esses modelos funcionam como classificadores, retornando probabilidades para perguntas de sim/não, múltipla escolha e pontuação, com base em entradas de texto ou imagem, em vez de gerar texto livre. A principal melhoria na versão 1.3 é a adição do Locate, uma funcionalidade que extrai trechos de texto precisos com base em instruções ou tipos específicos, visando tarefas como NER e detecção de PII. Os modelos estão disponíveis sob a licença Apache 2.0 no Hugging Face e podem ser acessados ​​através da Perplexity Decisions API e OpenRouter. A arquitetura adapta um modelo de linguagem generativo, usando uma cabeça de LM podada para produzir probabilidades de opções. Uma mudança arquitetural notável na versão 1.3 é como as perguntas interagem; embora o estado geral veja todas as perguntas, cada pergunta individual agora interage apenas com o estado e consigo, evitando mudanças nas respostas vistas na versão 1.2. Para implantação, a Perplexity recomenda a versão 1.3 para critérios complexos e a versão Flash 1.3 para roteamento de alto volume. O ponto de extremidade da API é POST https://api.perplexity.ai/v1/decisions, com preços definidos em $0,02 e $0,01 por 1M de tokens de entrada, respectivamente. Testes de latência mostraram que a versão 1.3 lidou com uma solicitação de 243K tokens em 16 segundos, enquanto a versão Flash 1.3 a completou em 5 segundos.