[논문 리뷰] A Neural Network Approach to Joint Modeling Social Networks and Mobile Trajectories

Cheng Yang, Maosong Sun외 3명|arXiv (Cornell University)|2016. 06. 27.

Human Mobility and Location-Based Analysis참고 문헌 61인용 수 10

한 줄 요약

이 논문은 위치기반 소셜네트워크(LBSNs)에서 사용자 궤적과 소셜 연결을 함께 모델링하기 위해 사회적 네트워크 임베딩과 순환신경망을 통합한 공동 신경망 모델인 JNTM을 제안한다. RNN과 GRU를 통해 사용자 선호도, 친구의 영향력, 단기 및 장기 순차적 맥락을 활용함으로써, 특히 데이터가 희소한 상황에서도 다음 위치 및 친구 추천 성능을 향상시킨다.

ABSTRACT

The accelerated growth of mobile trajectories in location-based services brings valuable data resources to understand users' moving behaviors. Apart from recording the trajectory data, another major characteristic of these location-based services is that they also allow the users to connect whomever they like. A combination of social networking and location-based services is called as location-based social networks (LBSN). As shown in previous works, locations that are frequently visited by socially-related persons tend to be correlated, which indicates the close association between social connections and trajectory behaviors of users in LBSNs. In order to better analyze and mine LBSN data, we present a novel neural network model which can joint model both social networks and mobile trajectories. In specific, our model consists of two components: the construction of social networks and the generation of mobile trajectories. We first adopt a network embedding method for the construction of social networks: a networking representation can be derived for a user. The key of our model lies in the component of generating mobile trajectories. We have considered four factors that influence the generation process of mobile trajectories, namely user visit preference, influence of friends, short-term sequential contexts and long-term sequential contexts. To characterize the last two contexts, we employ the RNN and GRU models to capture the sequential relatedness in mobile trajectories at different levels, i.e., short term or long term. Finally, the two components are tied by sharing the user network representations. Experimental results on two important applications demonstrate the effectiveness of our model. Especially, the improvement over baselines is more significant when either network structure or trajectory data is sparse.

연구 동기 및 목표

• 위치기반 소셜네트워크(LBSNs)에서 소셜 네트워크 구조와 모바일 궤적 데이터를 함께 모델링하는 문제를 해결하기 위해.
• 소셜 유대관계와 이동 패턴 간의 상호의존성을 포착하여, 특히 다음 위치 및 친구 추천과 같은 추천 작업의 성능을 향상시키기 위해.
• 소셜 및 궤적 모델링 구성 요소 간에 사용자 표현을 공유하는 통합된 딥러닝 프레임워크를 개발하기 위해.
• 소셜 또는 궤적 데이터가 제한된 경우, 즉 데이터 희소 조건에서 모델의 효과성을 조사하기 위해.
• RNN 및 GRU 아키텍처를 활용하여 궤적 생성에 짧고 긴 기간의 순차적 맥락을 통합하는 방법을 탐색하기 위해.

제안 방법

• 소셜 관계를 저차원 벡터로 인코딩하기 위해 네트워크 임베딩 기법을 사용하여 사용자 소셜 네트워크 표현을 구축한다.
• 사용자 방문 선호도, 친구의 영향력, 단기 순차적 맥락, 장기 순차적 맥락의 네 가지 요소를 종합적으로 고려하여 모바일 궤적 생성을 모델링한다.
• 체크인 시퀀스의 단기 순차적 종속성을 포착하기 위해 순환신경망(RNN)을 활용한다.
• 사용자 궤적의 장기 순차적 패턴을 모델링하기 위해 게이팅된 순환 단위(GRU)를 사용한다.
• 소셜 네트워크 및 궤적 생성 구성 요소 간에 동일한 사용자 네트워크 표현을 공유함으로써 두 모듈을 연결한다.
• 궤적 생성 및 소셜 링크 예측을 동시에 최적화하기 위한 통합 목적 함수를 사용하여 엔드 투 엔드 모델을 훈련시킨다.

실험 결과

연구 질문

• RQ1 통합된 신경망 모델이 LBSNs에서 소셜 연결과 이동 패턴 간의 상호작용을 효과적으로 포착할 수 있는가?
• RQ2 사용자 방문 선호도, 친구의 영향력, 그리고 단기 및 장기 순차적 맥락이 궤적 예측 성능에 어떻게 함께 기여하는가?
• RQ3 소셜 및 궤적 데이터를 공동으로 모델링하면, 특히 한 모odal이 희소한 경우 추천 정확도가 향상되는가?
• RQ4 RNN 및 GRU 구성 요소가 사용자 궤적의 순차적 패턴을 모델링하는 데 얼마나 기여하는가?
• RQ5 다음 위치 및 친구 추천 작업에서 최신 기술 대비 모델 성능은 어떻게 비교되는가?

주요 결과

• 제안된 JNTM 모델은 다음 위치 추천 및 친구 추천 작업 모두에서 여러 경쟁 기반 모델보다 일관되게 뛰어난 성능을 보였다.
• 소셜 네트워크 구조 또는 궤적 데이터가 희소한 경우, 기반 모델 대비 성능 향상이 더 두드러지게 나타나 데이터 부족에 대한 강건성을 보였다.
• Gowalla 데이터셋에서 JNTM는 다음 위치 추천에 대해 약 0.85의 리콜을 달성했으며, 임베딩 차원이 25에서 100 사이일 때도 성능이 안정적이었다.
• JNTM의 메모리 사용량은 약 1,125 MB로, 각 사용자당 친구 관계와 선호도의 이중 표현을 저장하기 때문에 PRME(550 MB)의 약 두 배였다.
• JNTM의 훈련 시간은 CPU 기준 약 107분이었지만, GPU 가속을 통해 훈련 시간이 12배 감소하여 Tesla K40을 사용할 경우 약 9분으로 단축되었다.
• 예측당 추론 시간은 30ms 미만이었으며, 이는 실시간 온라인 추천 서비스에 적합함을 의미한다.