Nuevos Desarrollos

Nuevo servidor LLM con compatibilidad Chat Completions

Fuente: Simon Willison30/07/2026, 12:43
El proyecto LLM ha lanzado un servidor que proporciona compatibilidad con la API Chat Completions de OpenAI. Se ejecuta localmente en el puerto 9001 y expone todos los modelos LLM instalados a través de un endpoint compatible con ChatGPT, permitiendo procesar conversaciones incrementales de manera eficiente. El nuevo servidor aprovecha el esquema rediseñado de LLM versión 0.32rc1 para deduplicar mensajes mediante hashes criptográficos, optimizando el almacenamiento de registros conversacionales. Este enfoque garantiza que las solicitudes sucesivas que amplían una conversación existente no creen datos duplicados. La compatibilidad con los estándares de OpenAI elimina la necesidad de modificar código en proyectos que ya utilizan Chat Completions, facilitando la integración con el ecosistema LLM.
Nuevo servidor LLM con compatibilidad Chat Completions — lupAI