Hermes desktop simplifica a configuração local de modelos com automação de um clique

A Nous Research introduziu uma configuração simplificada de um clique para a implantação local de modelos dentro do Hermes Desktop, reduzindo significativamente a complexidade de executar modelos de código aberto. A atualização automatiza a detecção de hardware, a seleção de modelos, o download e a configuração de tempo de execução, eliminando a necessidade de configuração manual. O Hermes Desktop, uma ferramenta de código aberto licenciada sob a licença MIT, suporta macOS 12+, Windows 10/11 e Linux, sem exigir uma conta para modelos locais. A nova funcionalidade avalia cada modelo em relação ao hardware do usuário, fornecendo um verificado de ajuste de memória: verde para GPU apenas, amarelo para uso da RAM do sistema e vermelho para incompatibilidade. Os modelos garantem pelo menos uma janela de contexto de 64K, com crescimento com base nas necessidades de conversação. O Hermes prioriza pesos de especialistas sobre o cache de atenção durante a transferência, garantindo a retenção do contexto. Os usuários podem acessar o fluxo de configuração na primeira inicialização ou através de Configurações → Fornecedores → Modelos Locais. A documentação destaca a gestão de motores de inferência do Hermes, incluindo CUDA, Metal, Vulkan, HIP e backends de CPU. A configuração local_runtime no arquivo config.yaml é gerada automaticamente pela interface do desktop ou pode ser ajustada manualmente. A atualização também promove o envolvimento da comunidade através das redes sociais e newsletters, com um canal do Telegram agora disponível para seguidores.