Google DeepMind lanza embeddinggemma 2, un modelo de incrustación multimodal de código abierto para aplicaciones en el dispositivo

Google DeepMind ha lanzado EmbeddingGemma 2, un modelo de incrustación multimodal de código abierto de 740 millones de parámetros, diseñado para la búsqueda, la clasificación y las aplicaciones RAG centradas en la privacidad en el dispositivo. El modelo, basado en la arquitectura Gemma 4, admite texto, código, imágenes, vídeo y audio, incrustándolos en un espacio de 768 dimensiones. Cuenta con una ventana de contexto de 8K tokens y está disponible bajo una licencia Apache 2.0. Los pesos están ahora disponibles en Hugging Face y Kaggle, con versiones de Oll, llama.cpp y LiteRT disponibles. EmbeddingGemma 2 ofrece configuraciones modulares, lo que permite a los desarrolladores elegir entre 270 millones, 440 millones, 570 millones o los 740 millones de parámetros completos. El modelo obtiene resultados líderes en las pruebas MTEB Code y MAEB, con resultados de precisión completa en 768 dimensiones. La cuantificación reduce el uso de la memoria, con pesos solo para texto que requieren alrededor de 191 MB en un Pixel 11 Pro. El modelo también admite el aprendizaje de representación Matryoshka, lo que permite la reducción de la dimensión para la eficiencia del almacenamiento. El modelo funciona con varios marcos, incluidos sentence-transformers, Transformers, vLLM y MediaPipe. Es compatible con Qdrant para el almacenamiento vectorial y Unsloth para el ajuste fino. Google DeepMind también ha anunciado el próximo soporte de ML Kit para Android con aceleración NPU.