[논문 리뷰] Algorithmic infeasibility of community detection in higher-order networks

Tatsuro Kawamoto|arXiv (Cornell University)|2017. 10. 24.

Complex Network Analysis Techniques참고 문헌 1인용 수 5

한 줄 요약

이 논문은 여러 종류의 간선을 가진 고차원 네트워크가 더 풍부한 정보를 지니고 있음에도 불구하고 공동체 탐지에 대해 알고리즘적으로 비가능해질 수 있음을 보여준다. 레이블된 스토하스틱 블록모델에 기반한 기대최대화(EM) 알고리즘과 믿음 전파를 사용하여 저자들은 탐지 가능성 임계값을 분석적으로 유도하고, 특정 조건 하에서 일부 간선 유형을 제거하면 탐지 성능이 향상될 수 있음을 보여, 이는 저차원 네트워크가 고차원 네트워크보다 더 우수한 성능을 보일 수 있는 단계를 드러낸다.

ABSTRACT

In principle, higher-order networks that have multiple edge types are more informative than their lower-order counterparts. In practice, however, excessively rich information may be algorithmically infeasible to extract. It requires an algorithm that assumes a high-dimensional model and such an algorithm may perform poorly or be extremely sensitive to the initial estimate of the model parameters. Herein, we address this problem of community detection through a detectability analysis. We focus on the expectation-maximization (EM) algorithm with belief propagation (BP), and analytically derive its algorithmic detectability threshold, i.e., the limit of the modular structure strength below which the algorithm can no longer detect any modular structures. The results indicate the existence of a phase in which the community detection of a lower-order network outperforms its higher-order counterpart.

연구 동기 및 목표

• 다양한 간선 유형을 가진 고차원 네트워크가 항상 공동체 탐지에 유리한가를 조사하는 것.
• 기대최대화(EM)와 믿음 전파를 사용할 경우, 이러한 네트워크에서 공동체 탐지의 알고리즘적 비가용성을 분석하는 것.
• 레이블된 스토하스틱 블록모델(labeled SBM)에서 EM 알고리즘의 분석적 탐지 가능성 임계값을 도출하는 것.
• 저차원 네트워크가 고차원 네트워크보다 공동체 탐지에서 더 우수한 성능을 보일 수 있는 조건을 규명하는 것.
• 일부 간선 유형을 제거함으로써 탐지 성능을 향상시킬 수 있는 이론적 근거를 제공하는 것.

제안 방법

• 고차원 네트워크를 모델링하기 위해 비어 있는 간선(α=0) 포함 총 p+1종류의 간선 유형을 가진 레이블된 스토하스틱 블록모델(labeled SBM)을 사용한다.
• 희박한 영역에서 cα=O(1)가 되도록 잠재 공동체 할당과 모델 파라미터 추정을 위해 기대최대화(EM) 알고리즘과 믿음 전파를 사용한다.
• 고유값 λ_iso와 λ_b를 기반으로 제약행렬 B′의 스펙트럼 분석을 통해 탐지 가능성 임계값을 도출한다. 이 고유값들은 알고리즘의 안정성을 결정한다.
• 탐지 가능성 경계는 ∑α>0 |Δcα| = 2√c로 분석적으로 표현되며, 여기서 Δcα = cα_in - cα_out이고 c는 총 평균 차수이다.
• 믿음 전파 방정식의 固定点의 안정성을 평가하여, 알고리즘이 심으려는 공동체 구조를 복구하지 못할 때를 식별한다.
• 수치적 검증을 통해 분석을 검증하고, 일부 간선 유형을 제거하면 이전에는 탐지 불가능했던 구조도 복구 가능해질 수 있음을 확장하여 보여준다.

실험 결과

연구 질문

• RQ1 고차원 네트워크의 다수 간선 유형 존재가 항상 공동체 탐지 성능을 향상시키는가?
• RQ2 EM 알고리즘과 믿음 전파를 사용할 경우, 고차원 네트워크에서 공동체 모듈러 구조 탐지에 실패하는 조건은 무엇인가?
• RQ3 고차원 네트워크에서 일부 간선 유형을 제거하면 전체 간선 유형을 사용할 때보다 더 나은 공동체 탐지 성능을 얻을 수 있는가?
• RQ4 다양한 간선 유형을 가진 레이블된 스토하스틱 블록모델에서 공동체 탐지의 분석적 탐지 가능성 임계값은 무엇인가?
• RQ5 초기 모델 파라미터 추정치가 고차원 네트워크에서 공동체 탐지의 알고리즘적 비가용성에 어떤 영향을 미치는가?

주요 결과

• 기대최대화(EM) 알고리즘과 믿음 전파의 조합은 심으려진 공동체 구조를 복구할 수 없는 탐지 가능성 임계값 이하에서 작동함을 보여, 이는 진짜 구조가 심겨져 있음에도 불구하고 마찬가지이다.
• 탐지 가능성 임계값은 ∑α>0 |Δcα| = 2√c로 분석적으로 도출되었으며, 여기서 Δcα는 간선 유형 α에 대해 모듈 내 및 모듈 간 연결 밀도의 차이이다.
• 저차원 네트워크(단일 간선 유형)가 고차원 네트워크(다양한 간선 유형)보다 더 뛰어난 성능을 보일 수 있는 단계가 존재한다. 이는 고차원 네트워크에서 알고리즘적 비가용성 때문이지만, 저차원 네트워크에서는 문제가 없다.
• 초기 파라미터 추정치가 균일 사전분포에 가까울 경우, |λ_iso(B′)| ≤ 1이면 알고리즘이 심으려진 구조를 복구하지 못하며, 이는 임계조건과 일치한다.
• 기여도가 낮거나 비균일한 간선 유형을 제거하면 이전에는 탐지 불가능했던 모듈러 구조도 탐지 가능해지며, 이는 고차원 모델에서 알고리즘적 비가용성이 실제로 존재함을 확인한다.
• 탐지 가능성 경계는 단순형이며, 단계도 안내선의 타원에 접선을 이룬다. 이 경계의 형태는 모델 파라미터의 초기 추정치에 따라 달라진다.