Nace AI lança drex max v1: modelo de decisão de 27b parâmetros para execução local em apple silicon

A Nace AI disponibilizou publicamente o Drex Max v1, um modelo de decisão de 27B parâmetros para execução local em Apple Silicon. O modelo suporta vários formatos de quantização, incluindo pesos bf16, um ficheiro GGUF Q8_0 e um checkpoint Q4 afim. Inclui forks de llama.cpp e Ollama, permitindo que os desenvolvedores implementem roteamento, classificação e verificações de políticas em hardware local. O Drex Max processa perguntas tipadas sobre um contexto específico, retornando probabilidades para cada opção em uma única passagem. Suporta três tipos de perguntas: baseadas em escolha, sim/não e pontuação ordinal, tornando-o adequado para roteamento de agentes, triagem de tickets e verificações de guardrails. O modelo possui uma espinha dorsal densa de 27B com 64 camadas, incluindo 48 camadas Gated DeltaNet de atenção linear e 16 camadas de atenção total não causal. A Nace AI relata que a quantização mantém o desempenho, com o ficheiro GGUF Q8_0 correspondendo aos resultados bf16 H100 em um Apple M5 Pro de 48 GB. O modelo está disponível para download, com documentação e código fornecidos. A versão inclui um conjunto de dados de resultados de 140.620 solicitações, com consultas não respondidas contadas como incorretas. A Nace AI documenta cinco execuções, todas servindo a mesma API POST /v1/systemone. Para usuários Apple, o checkpoint Q4 afim requer 24 GB ou mais, enquanto o Q8_0 GGUF precisa de 48 GB. Os usuários Ollama podem descarregar 40 camadas para Metal definindo num_gpu 40, ou executar em CPU com num_gpu 0. O fork Ollama requer uma linha de decisão CAPABILITY no Modelfile. A Nace AI também nota que a Decision Index 0.4 usa a mesma suíte pública que a 0.3.1.