Google presenta los me-pois: un marco que mejora la comprensión de los lugares con datos de movilidad

Un equipo de Google Research y la Universidad de California, Los Ángeles, ha presentado los ME-POIs, un nuevo marco que integra los patrones de movilidad humana en las incrustaciones de puntos de interés basadas en texto. El marco aborda la limitación de los modelos de lenguaje tradicionales, que describen qué es un lugar, pero no cómo se utiliza. Al codificar cada visita como un vector contextualizado y utilizar el aprendizaje contrastivo para alinear estas visitas con prototipos aprendibles por POI, los ME-POIs proporcionan una comprensión más matizada de cómo se utilizan los lugares. El modelo se preentrenó en una única GPU NVIDIA Tesla V100 de 16 GB y tiene aproximadamente 53,7 millones de parámetros. Los ME-POIs procesan las visitas como triples de coordenadas, hora de llegada y hora de salida, utilizando tres codificadores factorizados: Space2Vec para la ubicación y dos codificadores Time2Vec para las horas de llegada y salida. Estos vectores se combinan con el codificación posicional sinusoidal y se pasan a través de un Transformer de 4 capas, 8 cabezales, para generar incrustaciones contextualizadas de visitas. El objetivo principal es minimizar una pérdida InfoNCE, que tira de las incrustaciones de visitas hacia sus respectivos prototipos de POI al tiempo que las aleja de los demás en el minibatch. Esto da como resultado un centroide funcional que representa el horario promedio del usuario para cada POI. El marco se enfrenta a desafíos de escasez, ya que solo el 9,07 % de los POIs de Los Ángeles y el 7,04 % de los POIs de Houston cumplieron el umbral de visita mínimo. Para abordar esto, los ME-POIs utilizan núcleos gaussianos normalizados en tres anchos de banda y transfieren histogramas de visitas de POIs dispersos, con términos KL adicionales para garantizar la consistencia. El modelo también incorpora incrustaciones de texto a través de indicaciones basadas en la receta GeoLLM, que incluyen coordenadas, categoría, dirección y POIs cercanos. La evaluación en conjuntos de datos de movilidad anonimizados de Los Ángeles y Houston mostró mejoras significativas. En Los Ángeles, la adición de ME-POIs mejoró 34 de 35 emparejamientos modelo-tarea, con ganancias relativas de hasta el 81,9 % en la intención de visita y una reducción del 24,7 % en la congestión. En Houston, la precisión F1 del nivel de precio aumentó en un 75,1 % para GTR-T5. Una variante solo de movilidad, entrenada sin alineación de texto, logró una precisión de 0,600 en la clasificación del nivel de precio en Los Ángeles, superando a Gemini en 0,559. También superó a todas las líneas de base basadas en trayectorias en todas las tareas. A pesar de los resultados prometedores, Google Research no ha publicado el código ni los pesos, y el modelo requiere datos de tráfico autorizados o registros de visitas de primera mano junto con polígonos de POI. El artículo y los detalles técnicos están disponibles para su exploración, junto con tutoriales, código y cuadernos en la página de GitHub. La investigación se publicó por primera vez en MarkTechPost.