Liquid AI presenta modelos de decisión multimodales de código abierto para aplicaciones en tiempo real

Liquid AI ha lanzado dos modelos multimodales de código abierto, d1-3B y d1-omni-600M, diseñados para la toma de decisiones en tiempo real. Estos modelos, parte de la familia de modelos de decisión d1, procesan texto e imágenes o texto con audio, pero no generan salidas de texto. Proporcionan respuestas calibradas en un solo paso con cero tokens de salida, lo que los hace adecuados para su implementación en hardware NVIDIA, incluidos los servidores DGX, las estaciones de trabajo RTX y las placas Jetson Edge. El modelo d1-3B, con 3.12 mil millones de parámetros, supera a otros modelos con menos de 10 mil millones de parámetros y obtiene resultados destacados en las pruebas de texto. d1-omni-600M, con 587 millones de parámetros, destaca en tareas específicas como Civil Comments y PAWS-X. Ambos modelos están disponibles en Hugging Face y son compatibles con llama.cpp, y su uso comercial está permitido bajo la licencia LFM Open License v1.0. Las pruebas de latencia muestran que d1-3B funciona a 8 ms en una RTX 4090, mientras que los dispositivos Jetson tienen un rango de 16 ms a 50 ms. Liquid AI recomienda float16 para d1-omni-600M en GPUs. Los modelos están diseñados para el enrutamiento, la moderación y la clasificación de intenciones, sin capacidades de chat.