[논문 리뷰] Where to Go Next: A Spatio-temporal LSTM model for Next POI Recommendation

Pengpeng Zhao, Haifeng Zhu외 4명|arXiv (Cornell University)|2018. 06. 18.

Recommender Systems and Techniques참고 문헌 15인용 수 46

한 줄 요약

이 논문은 시간과 거리 게이트를 갖춘 ST-LSTM을 제시하여 다음 POI 추천에서 단기/장기 관심을 모델링하고 네 가지 실제 데이터셋에서 최첨단 성능을 달성한다.

ABSTRACT

Next Point-of-Interest (POI) recommendation is of great value for both location-based service providers and users. Recently Recurrent Neural Networks (RNNs) have been proved to be effective on sequential recommendation tasks. However, existing RNN solutions rarely consider the spatio-temporal intervals between neighbor check-ins, which are essential for modeling user check-in behaviors in next POI recommendation. In this paper, we propose a new variant of LSTM, named STLSTM, which implements time gates and distance gates into LSTM to capture the spatio-temporal relation between successive check-ins. Specifically, one-time gate and one distance gate are designed to control short-term interest update, and another time gate and distance gate are designed to control long-term interest update. Furthermore, to reduce the number of parameters and improve efficiency, we further integrate coupled input and forget gates with our proposed model. Finally, we evaluate the proposed model using four real-world datasets from various location-based social networks. Our experimental results show that our model significantly outperforms the state-of-the-art approaches for next POI recommendation.

연구 동기 및 목표

• 연속 체크인 간의 시간 간격과 지리적 거리 사이를 명시적으로 모델링하여 다음 POI 추천을 개선한다.
• ST-LSTM을 개발하여 시간 게이트와 거리 게이트를 도입하고 단기 및 장기 사용자 관심을 포착한다.
• 입력 게이트와 망각 게이트를 결합(ST-CLSTM)하여 매개변수 수를 줄이고 효율성을 개선한다.
• 다양한 대규모 실제 LBSN 데이터셋에서 접근 방식을 평가하고 강력한 baselines와 비교한다.

제안 방법

• 마지막 POI의 단기/장기 영향을 제어하기 위해 두 개의 시간 게이트(T1, T2)와 두 개의 거리 게이트(D1, D2)를 도입한다.
• LSTM 셀 업데이트를 수정하여 게이트된 단기/장기 정보 흐름을 포함한다: - ĉ_t = f_t ⊙ c_{t−1} + i_t ⊙ T1_t ⊙ D1_t ⊙ ĉ_tilde; - c_t = f_t ⊙ c_{t−1} + i_t ⊙ T2_t ⊙ D2_t ⊙ ĉ_tilde; - h_t = o_t ⊙ tanh(ĉ_t or c_t); 여기서 ĉ_tilde는 후보 기억이며 삼각 모양의 t/거리 간격은 시간/distance intervals를 나타낸다.
• research_questions_ansatz_padding_empty_bullet_points_please_note_that_the_original_list_was_empty_and_has_been_kept_as_is_because_of_the_input_structure.

실험 결과

연구 질문

• RQ1 연속 POI 간의 시간 및 거리 간격을 순환 모델에 어떻게 도입하여 다음 POI 추천의 성능을 향상시킬 수 있는가?
• RQ2 단일 게이트나 비공간적 시계열 모델보다 단일 게이트보다 듀얼 게이트가 더 좋은 성능을 내는가?
• RQ3 입력 게이트와 망각 게이트를 결합하는 것이 정확도를 희생하지 않으면서 효율성을 개선하는가?
• RQ4 ST-LSTM/ST-CLSTM이 여러 실제 데이터셋에서 최첨단 baselines에 비해 어떤 성능을 보이는가?
• RQ5 시간 및 거리 게이트가 콜드 스타트 및 일반화에 미치는 영향은 무엇인가?

주요 결과

• ST-LSTM은 CA, SIN, Gowalla, Brightkite의 네 가지 실제 데이터셋에서 Acc@1, Acc@5, Acc@10 및 MAP 모든 지표에서 baselines를 크게 앞선다.
• 입력/망각 게이트를 결합한 ST-CLSTM은 매개변수가 더 적은 수에서 유사하거나 더 나은 정확도를 제공하여 효율성을 개선한다.
• 시간 게이트와 거리 게이트는 단기 및 장기 관심 모델링에 의미 있게 기여하며, 이를 비활성화하면 성능이 저하된다.
• ST-LSTM/ST-CLSTM은 콜드 스타트 조건에서도 강한 성능을 달성한다(낮은 체크인 기록).
• 셀 크기를 증가시키고 배치 크기를 조정하면 대규모 데이터셋에서 Acc@10 및 전반적인 수렴 속도가 향상될 수 있다.