Novos Desenvolvimentos

Novo servidor LLM compatível com Chat Completions

Fonte: Simon Willison30/07/2026, 12:43
O projeto LLM apresentou um servidor que traz compatibilidade com a API Chat Completions do OpenAI. A ferramenta executa localmente na porta 9001 e expõe todos os modelos LLM instalados através de um endpoint compatível com ChatGPT, permitindo que conversações incrementais sejam processadas de forma eficiente. O novo servidor utiliza o esquema redesenhado da versão 0.32rc1 para deduplicar mensagens através de hashes criptográficos, otimizando o armazenamento de registos conversacionais. Esta abordagem garante que pedidos sucessivos que estendem uma conversa anterior não duplicam informação já armazenada. A compatibilidade com os padrões da OpenAI elimina a necessidade de adaptação de código para projetos que já utilizam Chat Completions, simplificando a integração com o ecossistema LLM.
Novo servidor LLM compatível com Chat Completions — lupAI