[논문 리뷰] Machine learning meets network science: dimensionality reduction for fast and efficient embedding of networks in the hyperbolic space

Josephine Maria Thomas, Alessandro Muscoloni외 3명|arXiv (Cornell University)|2016. 02. 21.

Complex Network Analysis Techniques참고 문헌 49인용 수 45

한 줄 요약

이 논문은 비선형 비지도 차원 축소를 활용하여 네트워크의 노드들이 초구형 공간에 빠르게 임bedding되도록 하는 새로운 기계학습 접근법을 제안한다. 이 방법은 '각도 집합 현상'(angular coalescence)을 통해 노드의 각도 좌표를 근사함으로써 실현된다. 이 방법은 수천 개의 노드를 가진 그래프입니다로도 효율성 면에서 기존 방법들을 크게 능가하면서도, 계산 속도가 빠르고 정확하며 확장 가능한 초구형 네트워크 임베딩을 달성한다. 이는 네트워크의 위상적 구조를 유지한다.

ABSTRACT

Complex network topologies and hyperbolic geometry seem specularly connected, and one of the most fascinating and challenging problems of recent complex network theory is to map a given network to its hyperbolic space. The Popularity Similarity Optimization (PSO) model represents - at the moment - the climax of this theory. It suggests that the trade-off between node popularity and similarity is a mechanism to explain how complex network topologies emerge - as discrete samples - from the continuous world of hyperbolic geometry. The hyperbolic space seems appropriate to represent real complex networks. In fact, it preserves many of their fundamental topological properties, and can be exploited for real applications such as, among others, link prediction and community detection. Here, we observe for the first time that a topological-based machine learning class of algorithms - for nonlinear unsupervised dimensionality reduction - can directly approximate the network's node angular coordinates of the hyperbolic model into a two-dimensional space, according to a similar topological organization that we named angular coalescence. On the basis of this phenomenon, we propose a new class of algorithms that offers fast and accurate coalescent embedding of networks in the hyperbolic space even for graphs with thousands of nodes.

연구 동기 및 목표

• 대규모 네트워크에 대해 기존 초구형 네트워크 임베딩 방법의 계산 비효율성을 해결하기 위해.
• 네트워크의 위상적 구조를 활용하여 명시적 기하 최적화 없이 초구형 각도 좌표를 근사하기 위해.
• 계산 속도가 빠르고 확장 가능하며 정확한 임베딩 방법을 개발하여 클러스터링과 힘의 법칙에 따르는 차수 분포와 같은 핵심 네트워크 특성을 유지하기 위해.
• 비선형 차원 축소 기법이 네트워크 위상 구조를 초구형 유사 표현으로 효과적으로 집합화할 수 있음을 보여주기 위해.

제안 방법

• 이 방법은 네트워크 노드를 2차원 초구형 공간에 임베딩하기 위해 위상 기반 기계학습 알고리즘 — 특히 비선형 비지도 차원 축소 — 를 적용한다.
• 원래 네트워크 내의 위상 유사성에 기반하여 초구형 공간에서의 노드 각도 위치를 근사하는 현상인 '각도 집합 현상'을 식별하고 이를 활용한다.
• 노드 간의 인기도와 유사도를 반영하는 각도 좌표를 직접 네트워크 위상 구조에서 학습함으로써, Popularity-Similarity Optimization (PSO) 모델의 계산 비용이 큰 최적화 과정을 생략한다.
• 다양체 학습 기법을 사용하여 저차원 초구형 임베딩에서 네트워크의 내재 기하학적 구조를 유지한다.
• 노드들을 각도 좌표를 학습하여 2차원 초구형 공간에 매핑함으로써, 노드의 인기도와 유사도를 반영한 표현을 생성한다.
• 결과로 생성된 임베딩은 집합형이며, 원래 네트워크의 계층적이고 스케일프리 조직 구조를 유지한다.

실험 결과

연구 질문

• RQ1 비선형 차원 축소 기법은 명시적 기하 최적화 없이도 복잡한 네트워크에서 초구형 각도 좌표를 근사할 수 있는가?
• RQ2 각도 집합 현상은 어떻게 빠르고 정확한 초구형 네트워크 임베딩을 가능하게 하는가?
• RQ3 위상적 구조만으로도 초구형 공간의 핵심 기하적 성질을 네트워크 임베딩에서 효과적으로 포괄할 수 있는가?
• RQ4 이 방법은 수천 개의 노드를 가진 대규모 네트워크에 대해 효율적으로 확장 가능한가, 동시에 핵심 위상적 특징을 유지하는가?
• RQ5 이 방법은 PSO 모델 및 기타 초구형 임베딩 기법과 비교해 성능과 속도 면에서 어떻게 다른가?

주요 결과

• 제안된 방법은 위상적 집합 현상에 기반한 각도 좌표 근사를 통해 계산 비용을 크게 감소시킴으로써, 빠르고 정확한 초구형 네트워크 임베딩을 달성한다.
• 이 방법은 클러스터링, 힘의 법칙에 따르는 차수 분포, 계층적 구조와 같은 핵심 네트워크 특성을 임베딩에서 유지한다.
• 알고리즘은 대규모 네트워크에 대해 효율적으로 확장 가능하여 수천 개의 노드를 가진 그래프에 실용적으로 적용할 수 있다.
• 각도 집합 현상 덕분에 PSO 모델의 반복 최적화가 필요 없이도 위상적 정확도를 유지할 수 있다.
• 임베딩 품질은 PSO 모델과 경쟁 가능하지만, 런타임 성능 면에서 상당히 향상되었다.
• 이 방법은 생성된 초구형 표현을 사용하여 링크 예측 및 커뮤니티 탐지와 같은 효과적인 후행 작업을 가능하게 한다.