lupAI
Nuevos Desarrollos

Strata 0.2.10 permite ventanas de contexto masivas en hardware de consumo con optimización de vram

StrataFuente: AIBase03/11/2026, 06:45
La herramienta de IA local de código abierto, Strata, ha lanzado la versión 0.2.10, que introduce importantes avances para ejecutar modelos grandes en GPUs de consumo mediante la optimización del uso de VRAM y la velocidad de inferencia. Esta actualización permite a los usuarios ejecutar modelos como Qwen3.8IQ3_S con un contexto ultra largo de hasta 128K tokens en un dispositivo con 8GB de VRAM. Esto se logra mediante la asignación dinámica de datos entre VRAM y memoria del sistema cuando los recursos están limitados. Además, el nuevo decodificador DFlash2 especulativo es ahora el predeterminado, reduciendo el consumo de VRAM de aproximadamente 5.2GB (utilizado por la capa MTP anterior) a unos 625MiB, lo que ahorra 4GB adicionales de VRAM. Para configuraciones multi-GPU, el motor All-cards Split Engine permite el cálculo paralelo en todas las GPUs para cada capa del modelo; las pruebas con dos GPUs RTX A6000 mostraron una velocidad de edición de código casi duplicada, de 195 tokens/s a 377-394 tokens/s. Además del rendimiento, el lanzamiento incluye un modelo específico para la codificación, ISTA-DAS Coder, basado en DeepSeek-V4.1-Flash. También se ha mejorado la estabilidad del sistema con correcciones para problemas de interfaz, como evitar que los botones de aprobación se oculten durante largas respuestas de IA, y una mejor gestión de los errores de desbordamiento de contexto en Claude Code. La herramienta sigue siendo compatible con Windows, macOS y Linux.