OpenAI lanza API de modelo de decisiones en medio de una creciente competencia
OpenAI ha lanzado su API de Decisiones, un modelo de toma de decisiones diseñado para la inteligencia rápida y rentable, entrando en un mercado competitivo impulsado por el modelo Jev de TypeSafe. TypeSafe, fundada por un antiguo investigador del laboratorio de vanguardia, se convirtió en una empresa de 7.600 millones de dólares después de que su modelo Jev creara una nueva categoría para los modelos de aprendizaje profundo, actuando como clasificadores super, tomando decisiones rápidas con calificaciones de confianza. Nikunj Handa, jefe de producto de OpenAI, señaló que el equipo había reconfigurado ChatGPT Luna para crear la API, logrando velocidades de 100-180 milisegundos. Anunciado en el día del desarrollador de OpenAI el 29 de septiembre, la API se hizo disponible para todos los clientes el 22 de octubre, con modalidades de voz y visual adicionales y mejoras en la latencia global.
Las pruebas iniciales con Box, Datadog y Speak mostraron mejoras de rendimiento, con Speak reduciendo los tiempos de acción de 1,4 segundos a 0,13 segundos. Los benchmarks públicos como el AIM System One Index y el Artificial Analysis Decision Index favorecen a Liquid's D1 Ultra y a Elephant-1 de Base Lab, aunque el último modelo Jev de TypeSafe sigue siendo competitivo, ocupando la séptima y tercera posición. Felix Wunderlich de Opper AI destacó JevMan, un benchmark en el que los modelos juegan a Pac-Man, señalando el éxito del modelo en la toma de decisiones rápidas y de alto riesgo. Handa también enfatizó el potencial para mejoras adicionales de velocidad, sugiriendo aplicaciones como el procesamiento de vídeo en tiempo real. A medida que los modelos de decisión se vuelven más rápidos y baratos, se espera que desbloqueen casos de uso previamente invisibles, emulando el legado de Jev, un economista que abogó por el uso eficiente de los recursos.