Modelos de IA revolucionam a moderação de conteúdo com nova ferramenta de código aberto

A Musubi, uma empresa especializada em modelos de decisão de IA, lançou o PolicyLM-1.7B, um modelo de código aberto projetado para moderação de conteúdo em tempo real. O modelo, lançado em 6 de outubro de 2026, pode aplicar políticas de conteúdo escritas em linguagem natural a mensagens em menos de 50 milissegundos. Tem como objetivo ser tão eficiente quanto os classificadores de IA existentes usados pelas plataformas de mídia social, mas com a flexibilidade de um modelo de linguagem grande moderno. O PolicyLM-1.7B não requer re-treinamento quando as políticas mudam, permitindo atualizações rápidas de políticas. Filip Jankovic, co-fundador e diretor de IA da Musubi, destacou a capacidade do modelo de ajudar os gerentes de plataforma a rotular conteúdo de forma proativa, especialmente à medida que o volume de conteúdo aumenta. Ele observou que as equipes de produto buscam melhores percepções sobre suas plataformas. O interesse de Jankovic em modelos de decisão remonta a um projeto de 2024 chamado GLiNER. A empresa está aproveitando o crescente interesse em modelos de decisão para promover a transparência na moderação de conteúdo, posicionando o PolicyLM-1.7B como uma ferramenta que os usuários podem executar. Modelos de decisão, que produzem probabilidades de resultados em vez de texto, ganharam popularidade desde o lançamento do Jev da Typesafe AI em setembro de 2025. Concorrentes como OpenAI e Amazon também desenvolveram modelos semelhantes. Esses modelos são mais rápidos e baratos do que os modelos de linguagem grandes, mantendo a flexibilidade da arquitetura Transformer. Um caso de uso é o monitoramento do comportamento de agentes de IA, com o comportamento humano inadequado sendo uma extensão natural.