OpenBMB presenta minicpm5-2b: un modelo de lenguaje denso de 2.52 mil millones de parámetros optimizado para Su despliegue en dispositivos

OpenBMB ha lanzado MiniCPM5-2B, un modelo de lenguaje denso causal de 2.52 mil millones de parámetros, diseñado para su despliegue en dispositivos. El modelo cuenta con 2.516.756.480 parámetros, con 1.981.982.720 fuera de las incrustaciones, y utiliza 42 capas con atención agrupada de consultas. Soporta una ventana de contexto nativa de 131.072 tokens y es compatible con múltiples frameworks, incluyendo vLLM, SGLang y llama.cpp. MiniCPM5-2B supera a varios competidores en benchmarks específicos, obteniendo una puntuación promedio de 53,9 en 34 pruebas. Destaca en tareas de uso de herramientas y codificación, con resultados notables en LiveCodeBench y SWE-bench. El entrenamiento involucró la gestión de datos UltraData en capas, fases estables y de decadencia, y el algoritmo JustRL II. El rendimiento del modelo en tareas de razonamiento y benchmarks generales se mide en un promedio de 10,96 puntos, con checkpoints y conjuntos de datos adicionales liberados para la transparencia. OpenBMB enfatiza su idoneidad para cargas de trabajo de agentes y llamadas a herramientas, aunque se queda atrás de los modelos más grandes en tareas de conocimiento general.