Supersonic labs lança julia 1: um modelo de decisão compacto, baseado em CPU, com 144,3 milhões de parâmetros

A Supersonic Labs, um laboratório de pesquisa de IA brasileiro, lançou a Julia 1, um modelo de tomada de decisões com 144,3 milhões de parâmetros que opera em CPUs padrão. Ao contrário dos chatbots, a Julia 1 processa o contexto, uma pergunta e múltiplas opções de resposta, retornando probabilidades para cada opção. O modelo é de código aberto, disponível no Hugging Face sob a licença Apache 2.0, e suporta a implantação em ambientes Python 3.11+ ou GPUs compatíveis com BF16. Uma versão ONNX funciona em navegadores através do WebGPU, e uma API hospedada está em desenvolvimento. A Julia 1 é baseada no codificador mmBERT-small, treinado em mais de 1.800 idiomas, com uma cabeça de tomada de decisões adicionada pela Supersonic Labs. Ela lida com três tipos de decisões através de uma única API, fornecendo probabilidades softmax na ordem das opções de entrada. Os testes mostram que ela alcança 72,55% de precisão em Decisões Tipadas e 60/100 em Banking77, com algumas abstensões. O desempenho varia entre os dispositivos, com o Apple M4 alcançando um tempo médio de resposta de 33,15 ms. A Julia 1 não é uma versão ajustada do Qwen e é projetada para tarefas de classificação, embora não consiga lidar com informações faltantes ou cálculos complexos. A Supersonic Labs aconselha os usuários a validar os resultados com supervisão humana para decisões críticas. O laboratório também anunciou planos para a Julia 2, que apresentará sua própria arquitetura de base.