[논문 리뷰] DeepSpace: An Online Deep Learning Framework for Mobile Big Data to Understand Human Mobility Patterns

Xi Ouyang, Chaoyun Zhang외 3명|arXiv (Cornell University)|2016. 10. 22.

Human Mobility and Location-Based Analysis참고 문헌 26인용 수 41

한 줄 요약

DeepSpace는 모바일 빅데이터에서 인간 이동 패턴을 예측하기 위해 수정된 CNN를 사용하는 온라인, 계층적인 딥러닝 프레임워크를 제안한다. 이 프레임워크는 150개의 시간 간격에서 71.29%의 정확도를 달성하며, 공간 스케일 불변성과 국소적 종속성 모델링을 통해 노이즈가 많고 고차원적인 모바일 데이터 스트림에서도 뛰어난 성능을 유지한다.

ABSTRACT

In the recent years, the rapid spread of mobile device has create the vast amount of mobile data. However, some shallow-structure models such as support vector machine (SVM) have difficulty dealing with high dimensional data with the development of mobile network. In this paper, we analyze mobile data to predict human trajectories in order to understand human mobility pattern via a deep-structure model called "DeepSpace". To the best of out knowledge, it is the first time that the deep learning approach is applied to predicting human trajectories. Furthermore, we develop the vanilla convolutional neural network (CNN) to be an online learning system, which can deal with the continuous mobile data stream. In general, "DeepSpace" consists of two different prediction models corresponding to different scales in space (the coarse prediction model and fine prediction models). This two models constitute a hierarchical structure, which enable the whole architecture to be run in parallel. Finally, we test our model based on the data usage detail records (UDRs) from the mobile cellular network in a city of southeastern China, instead of the call detail records (CDRs) which are widely used by others as usual. The experiment results show that "DeepSpace" is promising in human trajectories prediction.

연구 동기 및 목표

• 고차원적이고 스트리밍되는 모바일 빅데이터에서 인간 이동 패턴을 예측하는 데 도전하는 것.
• 모바일 데이터의 복잡한 시공간 패턴을 처리하는 데 어려움을 겪는 얕은 모델(예: SVM)의 한계를 극복하는 것.
• 실시간으로 지속적인 모바일 데이터 스트림을 처리할 수 있는 온라인 학습 시스템을 개발하는 것.
• 거시적 및 미시적 공간 모델을 포함한 계층적 CNN 아키텍처를 도입하여 예측 정확도와 강건성을 향상시키는 것.
• 사용자 세부 기록(Ussage Detail Records, UDRs)을 사용하여 기존의 CDRs 대신 실제 모바일 네트워크 데이터를 활용해 모델을 평가하는 것.

제안 방법

• 다양한 공간 스케일을 처리하기 위해 거시적 예측 모델과 다수의 미시적 예측 모델을 포함한 계층적 CNN 아키텍처를 사용한다.
• 기존의 일반 CNN을 온라인 학습 시스템으로 변형하여, 다시 학습 없이도 지속적인 데이터 스트림을 처리할 수 있도록 한다.
• 인간 이동 경로에서 인접한 위치 간의 공간 상관관계를 캡처함으로써 국소적 종속성을 활용한다.
• 시간 간격의 변동성과 이동 사건 간의 시간 페이스 변화에 대해 모델이 강인하게 유지되도록 스케일 불변성을 달성한다.
• 중국 동남부의 모바일 셀룰러 네트워크에서 수집한 실제 UDRs를 사용해 모델을 학습하고 평가한다.
• 병렬 처리 아키텍처를 통해 거시적 및 미시적 모델이 동시에 작동하여 추론 효율성을 향상시킨다.

실험 결과

연구 질문

• RQ1 딥러닝 프레임워크는 고차원적 모바일 빅데이터에서 인간 이동 패턴을 효과적으로 예측할 수 있는가?
• RQ2 온라인 학습 환경에서 계층적 CNN 아키텍처는 표준 CNN에 비해 예측 정확도를 어떻게 향상시키는가?
• RQ3 실제 모바일 데이터에서 노이즈와 시간 간격의 변동성에 대해 모델은 어느 정도 견디는가?
• RQ4 자주 이동하는 사용자와 안정적인 이동 패턴을 보이는 사용자 간에 모델 성능은 어떻게 달라지는가?
• RQ5 모바일 네트워크에서의 UDRs가 인간 이동 예측에 CDRs의 타당한 대안이 될 수 있는가?

주요 결과

• DeepSpace는 150개의 시간 간격에서 71.29%의 예측 정확도를 달성했으며, 모든 테스트 시간 간격에서 일반 CNN보다 뛰어난 성능을 보였다.
• 시간 간격 수가 증가함에 따라 거시적 및 미시적 예측 모델 모두에서 85% 이상의 높은 정확도를 유지하며 뛰어난 안정성을 확보했다.
• 자주 이동하는 사용자에 대해서는 DeepSpace가 57.83%의 정확도를 기록했고, 일반 CNN는 35.77%에 그쳐 더 뛰어난 노이즈 내성 성능을 입증했다.
• 계층적 아키텍처 덕분에 장기적인 시퀀스에서 일반 CNN 대비 성능 저하가 약 10% 감소했으며, 이는 더 나은 일반화 능력을 의미한다.
• 시각적 비교 결과 대부분의 경우 예측 경로가 실제 경로와 밀접하게 일치하지만, 드물게 발생하거나 한 번만 나타나는 이동 패턴은 놓칠 수 있다.
• 일관된 이동 패턴을 보이는 사용자에 대해서는 특히 뛰어난 성능을 보였으며, 이러한 경우 최대 97.2%의 정확도를 기록했다.