Los modelos de IA revolucionan la moderación de contenido con una nueva herramienta de código abierto

Musubi, una empresa especializada en modelos de decisión de IA, ha lanzado PolicyLM-1.7B, un modelo de código abierto diseñado para la moderación de contenido en tiempo real. El modelo, lanzado el 6 de octubre de 2026, puede aplicar políticas de contenido escritas en inglés sencillo a los mensajes en menos de 50 milisegundos. Está diseñado para ser tan eficiente como los clasificadores de IA existentes utilizados por las plataformas de redes sociales, pero con la flexibilidad de un modelo de lenguaje grande moderno. PolicyLM-1.7B no requiere reentrenamiento cuando cambian las políticas, lo que permite actualizaciones rápidas de las políticas. Filip Jankovic, cofundador y director de IA de Musubi, destacó la capacidad del modelo para ayudar a los gestores de plataformas a etiquetar el contenido de forma proactiva, especialmente a medida que aumenta el volumen de contenido. Observó que los equipos de producto buscan obtener mejores conocimientos sobre sus plataformas. El interés de Jankovic en los modelos de decisión se remonta a un proyecto de 2024 llamado GLiNER. La empresa está aprovechando el creciente interés en los modelos de decisión para promover la transparencia en la moderación de contenido, posicionando a PolicyLM-1.7B como una herramienta que los usuarios pueden utilizar por sí mismos. Los modelos de decisión, que producen probabilidades de resultados en lugar de texto, han ganado terreno desde el lanzamiento de Jev de Typesafe AI en septiembre de 2025. Competidores como OpenAI y Amazon también han desarrollado modelos similares. Estos modelos son más rápidos y económicos que los modelos de lenguaje grandes, al tiempo que mantienen la flexibilidad de la arquitectura Transformer. Un caso de uso es el seguimiento del comportamiento de los agentes de IA, con el comportamiento humano como una extensión natural.