[논문 리뷰] Modelling of Bi-directional Spatio-Temporal Dependence and Users' Dynamic Preferences for Missing POI Check-in Identification

Dongbo Xi, Fuzhen Zhuang외 4명|arXiv (Cornell University)|2021. 12. 31.

Human Mobility and Location-Based Analysis인용 수 13

한 줄 요약

이 논문은 전역적 공간적 및 국소적 시간적 의존성과 사용자 동적 선호도를 통합하여 누락된 POI 체크인을 식별하는 양방향 딥러닝 모델인 Bi-STDDP를 제안한다. 양방향 공간시간적 맥락과 사용자-POI 시간 패턴을 활용하여, 세 개의 실세계 데이터셋에서 최신 기술(SOTA) 수준의 성능을 달성하며, 재현율과 평균 평균 정밀도에서 기존 방법을 크게 앞서며 성능 향상을 이룬다.

ABSTRACT

Human mobility data accumulated from Point-of-Interest (POI) check-ins provides great opportunity for user behavior understanding. However, data quality issues (e.g., geolocation information missing, unreal check-ins, data sparsity) in real-life mobility data limit the effectiveness of existing POI-oriented studies, e.g., POI recommendation and location prediction, when applied to real applications. To this end, in this paper, we develop a model, named Bi-STDDP, which can integrate bi-directional spatio-temporal dependence and users' dynamic preferences, to identify the missing POI check-in where a user has visited at a specific time. Specifically, we first utilize bi-directional global spatial and local temporal information of POIs to capture the complex dependence relationships. Then, target temporal pattern in combination with user and POI information are fed into a multi-layer network to capture users' dynamic preferences. Moreover, the dynamic preferences are transformed into the same space as the dependence relationships to form the final model. Finally, the proposed model is evaluated on three large-scale real-world datasets and the results demonstrate significant improvements of our model compared with state-of-the-art methods. Also, it is worth noting that the proposed model can be naturally extended to address POI recommendation and location prediction tasks with competitive performances.

연구 동기 및 목표

• 누락된 지리정보, 부정확한 체크인, 데이터 희소성 등의 데이터 품질 문제를 야기하는 실세계 이동 데이터에서 누락된 POI 체크인 식별 문제를 해결하기 위해.
• 전역적 공간 정보와 국소적 시간 정보를 사용하여 POI 간의 복잡한 양방향 공간시간적 의존성을 모델링하기 위해.
• 목표 시간 패턴과 사용자 및 POI 특징을 결합하여 사용자의 동적 체크인 선호도를 포착하기 위해.
• 통합된 딥러닝 프레임워크에서 공간시간적 의존성과 동적 선호도를 융합하여 누락된 POI 체크인 식별의 정확도를 향상시키기 위해.
• 경쟁적인 성능로 POI 추천 및 위치 예측 작업으로의 확장 가능성을 입증함으로써 모델의 일반화 능력을 입증하기 위해.

제안 방법

• Bi-STDDP는 양방향 전역 공간 및 국소 시간 인코더를 사용하여 시간의 정방향과 역방향 모두에서 POI 간의 복잡한 의존 관계를 모델링한다.
• 다중층 네트워크를 사용하여 목표 시간 패턴을 인코딩하고, 사용자 및 POI 정보를 통합하여 동적 체크인 선호도를 포착한다.
• 공간시간적 의존성 표현과 동적 선호도 임베딩을 공유된 잠재 공간으로 투영하여 공동 모델링을 수행한다.
• 최종 예측은 학습된 융합 메커니즘을 통해 양방향 공간시간 맥락과 동적 선호도 특징을 조합하여 생성된다.
• 대규모 실세계 체크인 데이터셋을 대상으로 지도 학습 손실 함수를 사용하여 경사 하강법을 기반으로 엔드 투 엔드로 전체 모델을 훈련시킨다.
• 임베딩 차원 및 은닉 유닛 수와 같은 하이퍼파rameter는 그리드 서치를 통해 최적화되며, 최적 설정으로 $d=64$ 및 $h=256$ 가 선택되었다.

실험 결과

연구 질문

• RQ1 POI 간의 양방향 공간시간적 의존성을 효과적으로 모델링하여 누락된 POI 체크인 식별 성능을 향상시킬 수 있는가?
• RQ2 시간 패턴과 사용자-POI 상호작용에 의해 형성된 사용자 동적 체크인 선호도가 식별 정확도에 어느 정도 기여하는가?
• RQ3 전역적 공간 및 국소적 시간 정보를 융합한 모델링 방식이 단방향 또는 국소적 모델링 대비 누락 체크인 식별에 있어 어떤 차이를 보이는가?
• RQ4 임베딩 차원 및 은닉 유닛 수와 같은 모델 하이퍼파rameter가 성능 및 안정성에 미치는 영향은 어떠한가?
• RQ5 제안된 모델은 POI 추천 및 위치 예측과 같은 관련 작업으로 효과적으로 확장될 수 있는가?

주요 결과

• Bi-STDDP는 Recall@K 및 MAP 측정 기준으로 세 개의 대규모 실세계 데이터셋에서 최신 기술(SOTA) 방법보다 뚜렷한 성능 향상을 달성한다.
• 임베딩 차원 $d$ 가 16를 초과할 경우 모델 성능이 안정화되며, 성능과 효율성의 최적 균형을 고려해 $d=64$ 가 선택되었다.
• 은닉 유닛 수 $h$ 가 32를 초과할 경우 모델 성능이 안정화되며, 최적 설정으로 $h=256$ 가 선택되었다.
• 창문 너비 $w=1$ 가 가장 우수한 성능를 보였으며, 이는 더 긴 시퀀스가 유의미한 향상 없이 노이즈를 유발한다는 것을 시사한다.
• 모델는 하이퍼파rameter 변화에 대해 뛰어난 내성성을 보이며, 넓은 설정 범위에서 높은 성능를 유지한다.
• Bi-STDDP는 POI 추천 및 위치 예측 작업으로 자연스럽게 확장 가능하며 경쟁적인 성능를 보이며, 일반화 능력을 입증한다.