[논문 리뷰] Dynamic Partition of Complex Networks

Lin F. Yang, Vladimir Braverman외 2명|arXiv (Cornell University)|2017. 05. 22.

Human Mobility and Location-Based Analysis인용 수 2

한 줄 요약

이 논문은 무작위 보행 관측을 통해 대규모 음성 네트워크의 온라인, 확장 가능한 분해 및 분할을 위한 확률적 일반화 헤브시안 알고리즘을 제안한다. 이 알고리즘은 낮은 차원의 정점 표현을 학습하여, 기저가 되는 마르코프 과정이 분해 가능할 경우 네트워크 분할을 정확하게 복원할 수 있다. 이를 통해 뉴욕 맨해튼 택시 데이터에서 교통 흐름에 맞는 도시 분할을 발견하였다.

ABSTRACT

Finding the reduced-dimensional structure is critical to understanding complex networks. Existing approaches such as spectral clustering are applicable only when the full network is explicitly observed. In this paper, we focus on the online factorization and partition of implicit large-scale networks based on observations from an associated random walk. We formulate this into a nonconvex stochastic factorization problem and propose an efficient and scalable stochastic generalized Hebbian algorithm. The algorithm is able to process dependent state-transition data dynamically generated by the underlying network and learn a low-dimensional representation for each vertex. By applying a diffusion approximation analysis, we show that the continuous-time limiting process of the stochastic algorithm converges globally to the principal components of the Markov chain and achieves a nearly optimal sample complexity. Once given the learned low-dimensional representations, we further apply clustering techniques to recover the network partition. We show that when the associated Markov process is lumpable, one can recover the partition exactly with high probability. We apply the proposed approach to model the traffic flow of Manhattan as city-wide random walks. By using our algorithm to analyze the taxi trip data, we discover a latent partition of the Manhattan city that closely matches the traffic dynamics.

연구 동기 및 목표

• 무작위 보행으로부터 부분적이고 종속적인 관측 자료만 제공되는 대규모 네트워크에서 낮은 차원의 표현을 학습하는 데 도전하는 것.
• 전체 네트워크 관측이 불가능한 상황에서 온라인, 확장 가능한 네트워크 분해 및 분할 방법을 개발하는 것.
• 거의 최적의 표본 복잡도로 기저 마르코프 체인의 주성분으로의 전역 수렴을 달성하는 것.
• 관련 마르코프 과정이 분해 가능할 경우 네트워크 분할을 정확히 복원할 수 있도록 하는 것.
• 실세계 시스템, 예를 들어 도시 교통 흐름과 같은 잠재적 구조적 분할을 모델링하고 탐지하는 것.

제안 방법

• 무작위 보행으로부터의 종속적인 상태 전이 데이터를 기반으로 네트워크 분해 문제를 비볼록 확률 최적화 문제로 공식화한다.
• 스트리밍 전이 데이터를 사용하여 반복적으로 낮은 차원의 정점 표현을 업데이트하기 위해 확률적 일반화 헤브시안 알고리즘을 적용한다.
• 연속 시간 근사에서 알고리즘의 수렴을 보여주기 위해 확산 근사를 적용하여, 알고리즘이 마르코프 체인의 주성분으로 전역 수렴함을 보인다.
• 학습된 낮은 차원의 표현에 클러스터링을 적용하여 네트워크의 잠재적 분할 구조를 복원한다.
• 마르코프 과정의 분해 가능성 성질에 의존하여, 높은 확률로 정확한 분할 복원을 보장한다.
• 실제 택시 이동 데이터를 활용하여 맨해튼의 도시 전체 교통 역학을 모델링한다.

실험 결과

연구 질문

• RQ1 무작위 보행을 통한 스트리밍이고 종속적인 관측 자료로부터 대규모 네트워크의 낮은 차원 표현을 학습할 수 있는가?
• RQ2 제안된 확률적 알고리즘이 기저 마르코프 체인의 주성분으로 전역 수렴하는가?
• RQ3 알고리즘의 표본 복잡도는 얼마이며, 최적에 얼마나 가까운가?
• RQ4 학습된 표현으로부터 네트워크 분할을 정확히 복원할 수 있는 조건은 무엇인가?
• RQ5 이 방법은 복잡한 시스템, 예를 들어 도시 교통 네트워크와 같은 실제 세계의 의미 있는 분할을 탐지할 수 있는가?

주요 결과

• 확률적 일반화 헤브시안 알고리즘이 연속 시간 근사에서 마르코프 체인의 주성분으로 전역 수렴한다.
• 확산 근사 분석을 통해 거의 최적의 표본 복잡도를 달성함을 입증하였다.
• 기저 마르코프 과정이 분해 가능할 경우, 높은 확률로 진정한 네트워크 분할을 정확히 복원한다.
• 학습된 낮은 차원의 표현은 맨해튼 교통 네트워크의 잠재적 커뮤니티 구조를 성공적으로 캡처한다.
• 검증을 위해 실제 택시 이동 데이터를 사용한 결과, 발견된 분할이 실제 교통 역학과 매우 유사하게 일치함을 확인하였다.
• 이 방법은 전체 네트워크 관측이 필요 없이도 확장 가능하고 온라인으로 분석이 가능하다.