Liquid AI apresenta modelos de decisão multimodais de código aberto para aplicações em tempo real

A Liquid AI lançou dois modelos multimodais de código aberto, d1-3B e d1-omni-600M, projetados para tomada de decisões em tempo real. Estes modelos, parte da família de modelos de decisão d1, processam texto e imagens ou texto com áudio, mas não geram saídas de texto. Fornecem respostas calibradas em uma única passagem, sem tokens de saída, adequados para implantação em hardware NVIDIA, incluindo servidores DGX, estações de trabalho RTX e placas Jetson edge. O modelo d1-3B, com 3,12 bilhões de parâmetros, supera outros modelos com menos de 10 bilhões de parâmetros e obtém bons resultados em benchmarks de texto. O d1-omni-600M, com 587 milhões de parâmetros, destaca-se em tarefas específicas como Civil Comments e PAWS-X. Ambos os modelos estão disponíveis no Hugging Face e suportam llama.cpp, com uso comercial permitido sob a licença LFM Open License v1.0. Testes de latência mostram que o d1-3B opera em 8 ms em uma RTX 4090, enquanto os dispositivos Jetson variam de 16 ms a 50 ms. A Liquid AI recomenda o uso de float16 para o d1-omni-600M em GPUs. Os modelos são destinados a roteamento, moderação e classificação de intenções, sem capacidades de chat.