Perplexity lança photon: um motor de recuperação de alta velocidade para um desempenho de pesquisa aprimorado

A Perplexity revelou o Photon, um motor de recuperação e classificação proprietário desenvolvido em Rust, projetado para substituir seu motor de código aberto anteriormente forkado. O Photon agora gerencia todo o tráfego de produção e suporta um novo modo de pesquisa rápida dentro da API de pesquisa Perplexity. O sistema alcança latências de uma única chamada de 160 ms em p50 e 230 ms em p9, com a latência de p99 reduzida de 800 ms para 65 ms. O Photon está disponível como uma API hospedada, com um modelo de preços de $1 por 1.000 solicitações, embora não seja de código aberto e não possa ser hospedado localmente. A nova engine aborda os desafios de escalabilidade enfrentados pelo sistema anterior, que teve dificuldades com o tamanho crescente do índice. A Perplexity optou por construir do zero em vez de manter seu fork. A pesquisa rápida, que combina o Photon com classificações leves adaptadas para fluxos de trabalho orientados por agentes, foi testada em seis benchmarks, atingindo 64,3% de desempenho a um custo de $59,73, em comparação com os 64,0% do preset padrão a $187,60. Embora a pesquisa rápida ofereça economias significativas de custos, ela tem um pequeno impacto na qualidade geral da pesquisa, com métricas de relevância e disponibilidade de respostas diminuindo ligeiramente nos benchmarks internos. A Perplexity recomenda a pesquisa rápida para tarefas rotineiras e o preset padrão para consultas complexas.