Hermes desktop simplifica la configuración local de modelos con automatización de un clic

Nous Research ha introducido una configuración simplificada de un clic para el despliegue local de modelos dentro de Hermes Desktop, reduciendo significativamente la complejidad de ejecutar modelos de código abierto. La actualización automatiza la detección de hardware, la selección de modelos, la descarga y la configuración de tiempo de ejecución, eliminando la necesidad de una configuración manual. Hermes Desktop, una herramienta de código abierto con licencia MIT, es compatible con macOS 12+, Windows 10/11 y Linux, y no requiere una cuenta para modelos locales. La nueva función evalúa cada modelo en función del hardware del usuario, proporcionando un veredicto de ajuste de memoria: verde para GPU únicamente, ámbar para el uso de la RAM del sistema y rojo para la incompatibilidad. Los modelos garantizan al menos una ventana de contexto de 64K, con un crecimiento basado en las necesidades de la conversación. Hermes prioriza los pesos de expertos sobre la caché de atención durante la descarga, lo que garantiza la retención del contexto. Los usuarios pueden acceder al flujo de configuración en el primer lanzamiento o a través de Configuración → Proveedores → Modelos Locales. La documentación destaca la gestión de motores de inferencia de Hermes, incluidos CUDA, Metal, Vulkan, HIP y CPU. La configuración local_runtime en config.yaml se genera automáticamente a través de la interfaz de usuario de escritorio o se puede ajustar manualmente. La actualización también promueve la participación de la comunidad a través de las redes sociales y boletines informativos, y ahora está disponible un canal de Telegram para los seguidores.