OpenAI lança API de modelo de tomada de decisões em meio à crescente competição

A OpenAI lançou sua API de Decisões, um modelo de tomada de decisões projetado para inteligência rápida e econômica, entrando em um mercado competitivo impulsionado pelo modelo Jev da TypeSafe. A TypeSafe, fundada por um ex-pesquisador do laboratório de fronteira, tornou-se uma empresa de US 7,6 bilhões após seu modelo Jev criar uma nova categoria para modelos de aprendizado profundo, atuando como superclassificadores, tomando decisões rápidas com classificações de confiança. Nikunj Handa, líder de produto da OpenAI, observou que a equipe reconfigurou o ChatGPT Luna para criar a API, alcançando velocidades de 100-180 milissegundos. Anunciado no dia do desenvolvedor da OpenAI em 29 de setembro, a API tornou-se disponível para todos os clientes em 22 de outubro, com modalidades de voz e visual adicionais e melhorias globais de latência. Testes iniciais com Box, Datadog e Speak demonstraram ganhos de desempenho, com o Speak reduzindo os tempos de ação de 1,4 segundos para 0,13 segundos. Benchmarks públicos como o AIM System One Index e o Artificial Analysis Decision Index favorecem o D1 Ultra e o Elephant-1 da Liquid e da Base Lab, embora o modelo Jev mais recente da TypeSafe permaneça competitivo, classificando-se em sétimo e terceiro lugar. Felix Wunderlich da Opper AI destacou o JevMan, um benchmark onde os modelos jogam PacMan, observando o sucesso do modelo em tomada de decisões rápidas e de alto risco. Handa também enfatizou o potencial para melhorias adicionais de velocidade, sugerindo aplicações como o processamento de vídeo em tempo real. À medida que os modelos de tomada de decisões se tornam mais rápidos e baratos, espera-se que eles desbloqueiem casos de uso inéditos, ecoando o legado de Jev, um economista que defendeu o uso eficiente de recursos.