[논문 리뷰] A Survey on Network Embedding

Peng Cui, Xiao Wang외 2명|arXiv (Cornell University)|2017. 11. 23.

Complex Network Analysis Techniques참고 문헌 45인용 수 46

한 줄 요약

이 종합 검토는 네트워크 구조와 성질을 유지하면서 노드의 저차원 벡터 표현을 학습하는 네트워크 임베딩 방법에 대한 포괄적인 개요를 제공한다. 이 리뷰는 구조 및 성질 유지 기법, 보조 정보 통합, 고급 정보 모델링으로 나누어 방법을 분류하며, 동적 네트워크, 쌍곡 공간, 이종 정보 네트워크와 같은 주요 과제와 향후 방향성을 규명한다.

ABSTRACT

Network embedding assigns nodes in a network to low-dimensional representations and effectively preserves the network structure. Recently, a significant amount of progresses have been made toward this emerging network analysis paradigm. In this survey, we focus on categorizing and then reviewing the current development on network embedding methods, and point out its future research directions. We first summarize the motivation of network embedding. We discuss the classical graph embedding algorithms and their relationship with network embedding. Afterwards and primarily, we provide a comprehensive overview of a large number of network embedding methods in a systematic manner, covering the structure- and property-preserving network embedding methods, the network embedding methods with side information and the advanced information preserving network embedding methods. Moreover, several evaluation approaches for network embedding and some useful online resources, including the network data sets and softwares, are reviewed, too. Finally, we discuss the framework of exploiting these network embedding methods to build an effective system and point out some potential future directions.

연구 동기 및 목표

• 효율적인 네트워크 표현을 위한 네트워크 임베딩 방법의 최신 기술을 체계적으로 분류하고 검토하는 것.
• 현재 접근법의 한계를 규명하는 것, 특히 쌍방향 관계에 대한 의존성, 보조 정보 처리 부족, 동적 또는 쌍곡 네트워크 구조에 대한 적용 불가능성.
• 이종 네트워크에서 네트워크 모티프와 메타패스와 같은 고차 구조의 통합을 탐색하는 것.
• 구력 분포를 따르는 네트워크에서 희소한 노드를 표현하는 데 도전하는 것.
• 향후 연구 방향을 제안하는 것, 특히 동적 네트워크 임베딩과 비유클리드 임베딩 공간.

제안 방법

• 네트워크 임베딩 방법을 세 가지 주요 그룹으로 분류: 구조 및 성질 유지, 보조 정보 강화, 고급 정보 유지 방법.
• 고전적 그래프 임베딩 알고리즘과 현대 네트워크 임베딩 기법 간의 관계를 검토.
• 노드 속성 또는 레이블과 같은 보조 정보를 통합하는 방법을 분석하며, 구조와 보조 정보 간의 일치를 전제로 한다.
• 스케일프리 및 군집화된 네트워크를 더 잘 모델링하기 위해 비유클리드 공간, 특히 쌍곡 기하학으로 네트워크 임베딩을 확장하는 것을 제안.
• 이종 정보 네트워크에서 메타패스를 사용하여 고차 구조적 제약 조건을 인코딩하는 방법을 논의.
• 평가 프로토콜과 오픈소스 도구를 검토하며, 벤치마크 데이터셋과 네트워크 임베딩을 위한 소프트웨어 라이브러리를 포함.

실험 결과

연구 질문

• RQ1 어떻게 네트워크 임베딩이 저차원 공간에서 국소적 및 전역적 네트워크 구조를 효과적으로 유지할 수 있는가?
• RQ2 보조 정보는 네트워크 임베딩의 품질을 얼마나 향상시킬 수 있으며, 구조-보조 정보의 불일치가 성능을 떨어뜨리는 경우는 언제인가?
• RQ3 노드 중심성과 고차 구조적 네트워크 모티프를 포괄하기 위해 쌍방향 유사성 가정이 얼마나 제한적인가?
• RQ4 시간에 따라 변화하는 동적 네트워크에 네트워크 임베딩을 어떻게 적응시킬 수 있는가?
• RQ5 구력 분포를 따르고 강한 군집화를 보이는 현실 세계의 네트워크를 더 잘 표현하기 위해 비유클리드 공간, 예를 들어 쌍곡 기하학을 사용하는 것이 유리한가?

주요 결과

• 기존의 고차원이고 희소한 인접 행렬을 밀도가 높고 저차원의 벡터로 대체함으로써 네트워크 임베딩은 계산 복잡도를 크게 감소시키고 병렬 처리 가능성을 향상시킨다.
• 기존 방법들은 네트워크 모티프나 메타패스와 같은 고차 구조를 모델링하지 못해 복잡한 노드 관계를 포괄하는 데 한계가 있다.
• 네트워크 구조와 보조 정보 간의 일치를 전제로 하는 가정은 실제 응용에서는 성립하지 않을 수 있으며, 이는 낮은 상관관계가 임베딩 성능을 떨어뜨릴 수 있다.
• 구력 분포를 따르는 네트워크에서 희소한 노드는 구조적 정보가 부족하여 잘 표현되지 않으며, 현재 방법들은 이러한 불균형을 충분히 다루지 못한다.
• 동적 네트워크 임베딩은 여전히 주요 과제로 남아 있으며, 각 시간 단계에서 정적 방법을 다시 실행하는 것은 대규모로 변화하는 네트워크에 대해 계산적으로 비현실적이다.
• 비유클리드 공간, 특히 쌍곡 기하학으로 네트워크 임베딩을 확장하면, 이질적인 도수 분포와 자연스럽게 부정의 곡률에서 유도되는 강한 군집화를 가진 네트워크를 더 잘 모델링할 수 있다.