Strata 0.2.10 permite janelas de contexto massivas em hardware de consumo com otimização de vram

A ferramenta de IA local de código aberto, Strata, lançou a versão 0.2.10, introduzindo avanços significativos para executar modelos grandes em GPUs de consumo, otimizando o uso de VRAM e a velocidade de inferência. Esta atualização permite que os usuários executem modelos como Qwen3.8IQ3_S com um contexto ultra-longo de até 128K tokens em um dispositivo com 8GB de VRAM. Isso é alcançado movendo dinamicamente a alocação de dados entre VRAM e memória do sistema quando os recursos estão limitados. Além disso, o novo DFlash2 decodificador especulativo agora é o padrão, reduzindo o consumo de VRAM de aproximadamente 5,2GB (usado pela camada MTP anterior) para cerca de 625MiB, economizando mais 4GB de VRAM. Para configurações multi-GPU, o All-cards Split Engine permite o cálculo paralelo em todos os GPUs para cada camada do modelo; testes com duas GPUs RTX A6000 mostraram uma velocidade de edição de código quase dobrada, de 195 tokens/s para 377-394 tokens/s. Além do desempenho, o lançamento inclui um modelo específico para codificação, ISTA-DAS Coder, baseado em DeepSeek-V4.1-Flash. A estabilidade do sistema também foi aprimorada com correções para problemas de interface, como evitar que os botões de aprovação fossem obscurecidos durante longas respostas de IA, e melhor tratamento de erros de estouro de contexto em Claude Code. A ferramenta permanece compatível com Windows, macOS e Linux.