Perplexity revela decider v1.3, añadiendo la capacidad de extracción de fragmentos de texto

Perplexity ha lanzado sus modelos de decisión de código abierto actualizados, pplx-decider-v1.3 y pplx-decider-flash-v1.3. Estos modelos funcionan como clasificadores, devolviendo probabilidades para preguntas de sí/no, de opción múltiple y de puntuación, basándose en entradas de texto o imágenes, en lugar de generar texto libre. La principal mejora en la v1.3 es la adición de Locate, una función que extrae fragmentos de texto precisos en función de instrucciones o tipos específicos, con el objetivo de tareas como la NER y la detección de PII. Los modelos están disponibles bajo la licencia Apache 2.0 en Hugging Face y se pueden acceder a través de la API de Perplexity Decisions y OpenRouter. La arquitectura se basa en un modelo de lenguaje generativo, utilizando una cabeza de LM recortada para generar probabilidades de opción. Un cambio arquitectónico notable en la v1.3 es cómo interactúan las preguntas; si bien el estado general ve todas las preguntas, cada pregunta individual ahora solo interactúa con el estado y consigo misma, evitando los cambios de respuesta vistos en la v1.2. Para la implementación, Perplexity recomienda la v1.3 para criterios complejos y la Flash v1.3 para un alto volumen de enrutamiento. El punto final de la API es POST https://api.perplexity.ai/v1/decisions, con precios establecidos en $0.02 y $0.01 por cada 1M de tokens de entrada, respectivamente. Las pruebas de latencia mostraron que la v1.3 podía manejar una solicitud de 243K de tokens en 16 segundos, mientras que la Flash v1.3 lo completaba en 5 segundos.