[논문 리뷰] Smaller Universes for Uniform Sampling of 0,1-matrices with fixed row and column sums

Annabell Berger, Corrie Jacobien Carstens|arXiv (Cornell University)|2018. 03. 07.

Complex Network Analysis Techniques참고 문헌 2인용 수 3

한 줄 요약

이 논문은 노드 레이블을 忽시함으로써 고정된 행 및 열 합을 가진 0,1-행렬의 균일한 샘플링을 위한 투영된 마르코프 체인 방법을 제안한다. 이는 그래프의 동형류를 효과적으로 샘플링하는 데에 사용된다. 이는 원래 체인보다 적어도 동일하거나 더 빠른 혼합 속도를 보이며, 상태 공간이 작아지고 초기 분포가 더 나아지기 때문에 종종 현저히 빠른 혼합 속도를 기록한다. 또한 스위치 체인과 커브볼 체인에서 육각형 이동이 필요 없이 효율적인 레이블이 부여된 그래프 샘플링을 가능하게 하는 사전처리 단계를 도입하여 실용적 성능을 향상시킨다.

ABSTRACT

An important problem arising in the study of complex networks, for instance in community detection and motif finding, is the sampling of graphs with fixed degree sequence. The equivalent problem of generating random 0,1 matrices with fixed row and column sums is frequently used as a quantitative tool in ecology. It has however proven very challenging to design sampling algorithms that are both fast and unbiased. This article focusses on Markov chain approaches for sampling, where a close-to-random graph is produced by applying a large number N of small changes to a given graph. Examples are the switch chain and Curveball chain, which are both commonly used by practitioners as they are easy to implement and known to sample unbiased when N is large enough. Within theoretical research, much effort has gone into proving bounds on N. However, existing theoretical bounds are impractically large for most applications while experiments suggest that much fewer steps are needed to obtain a good sample. The contribution of this article is twofold. Firstly it is a step towards better understanding of the discrepancy between experimental observations and theoretically proven bounds. In particular, we argue that while existing Markov chain algorithms run on the set of all labelled graphs with a given degree sequence, node labels are unimportant in practice and are usually ignored in determining experimental bounds. We prove that ignoring node labels corresponds to projecting a Markov chain onto equivalence classes of isomorphic graphs and that the resulting projected Markov chain converges to its stationary distribution at least as fast as the original Markov chain. Often convergence is much faster, as we show in examples, explaining part of the difference between theory and experiments...

연구 동기 및 목표

• 고정된 마진을 가진 0,1-행렬에 대한 마르코프 체인 샘플링에서 이론적 혼합 시간 경계와 실용적 성능 사이의 괴리 현상을 설명하기 위해.
• 노드 레이블을 忽시함으로써 샘플링에 미치는 영향을 그래프의 동형류에 대한 마르코프 체인의 투영으로 수학적으로 형식화하기 위해.
• 투영된 체인이 원래 체인보다 적어도 동일하거나 더 빠른 혼합 속도를 보이며, 상태 공간 축소와 개선된 초기 분포로 인해 많은 경우에서 현저한 속도 향상을 이룰 수 있음을 보여주기 위해.
• 투영된 체인과 결합할 수 있는 사전처리 단계를 개발하여, 스위치 체인이나 커브볼 체인에서 육각형 이동이 필요 없이도 효율적인 레이블이 부여된 그래프의 균일한 샘플링을 가능하게 하기 위해.
• 결합된 방법이 모든 방향 그래프에 대해 비가역 체인이 되며, 실무에서 복잡한 이동 유형의 필요성을 제거함을 보여주기 위해.

제안 방법

• 레이블이 부여된 그래프 위의 원래 마르코프 체인을 동형 그래프의 동치류에 투영하여 상태 공간을 동형 유형으로 축소하기.
• 스펙트럼 성질과 고유값 포함 원리를 사용하여, 투영된 체인의 혼합 시간이 원래 체인의 혼합 시간 이하로 제한됨을 증명하기.
• 선형 시간 내에 수행 가능한 사전처리 단계를 도입하여 노드 레이블을 무작위로 재배열함으로써, 투영 후 균일한 레이블이 부여된 그래프 샘플링을 달성하기.
• 투영된 체인을 동형류에 적용한 후 사전처리 단계를 사용하여 균일한 무작위 레이블이 부여된 그래프를 복원하기.
• 스펙트럼 갭 분석을 통해 혼합 시간 향상을 정량화하며, 특정 그래프 가족에서 투영된 스위치 체인의 스펙트럼 갭이 $ \frac{2}{n} $임을 보여주기.
• 특정 도수 시퀀스의 경우, 투영된 체인의 상태 공간이 지수적 크기에서 상수 크기로 감소함을 보여주며, 예를 들어 $ l $-정규 2차 노드에 대해 $ \binom{2l}{l} $에서 1로 감소함.

실험 결과

연구 질문

• RQ1 그래프의 동형류에 마르코프 체인을 투영함으로써 원래 레이블이 부여된 체인 대비 혼합 시간이 유지되거나 향상되는가?
• RQ2 노드 레이블 忽시가 실제 관측된 빠른 수렴 속도를 이론적 경계와 비교해 볼 때 얼마나 설명할 수 있는가?
• RQ3 복잡한 이동 방식(예: 육각형 이동)이 필요 없이도, 체인을 투영한 후에 레이블이 부여된 그래프를 효율적으로 샘플링할 수 있는 사전처리 단계를 사용할 수 있는가?
• RQ4 투영된 체인에서 상태 공간 축소가 스펙트럼 갭과 혼합 시간에 어떤 영향을 미치는가?
• RQ5 투영된 체인이 상태 공간 크기가 상수인 경우가 존재하는 도수 시퀀스가 있는가? 이 경우 근사적으로 즉각적인 샘플링이 가능해지는가?

주요 결과

• 투영된 마르코프 체인이 원래 체인보다 적어도 동일하거나 더 빠른 혼합 속도를 보이며, 고유값 포함 원리와 상태 공간 축소로 인해 혼합 시간이 원래 체인의 혼합 시간 이하로 제한된다.
• 두 개의 주요 노드(도수 $ n-1 $)와 $ n $개의 2차 노드(도수 1)를 가진 그래프 가족의 경우, 투영된 스위치 체인의 스펙트럼 갭은 $ \frac{2}{n} $이며, 이로 인해 혼합 시간은 $ O(n \log(n/\epsilon)) $이 된다.
• 두 개의 주요 노드(도수 $ l $ 및 $ 2l $)와 $ 2l $개의 2차 노드(도수 1)를 가진 경우, 투영된 체인은 상태 공간을 $ \binom{2l}{l} $에서 단일 상태로 줄여 사전처리 후 즉각적인 균일한 샘플링을 가능하게 한다.
• 투영된 체인과 선형 시간 사전처리 단계의 조합은 모든 방향 그래프에 대해 비가역 체인을 생성하며, 스위치 체인과 커브볼 체인에서 육각형 이동의 필요성을 제거한다.
• 원래 상태 공간이 높은 대칭성을 가질수록 투영의 속도 향상 효과가 가장 두드러지며, 이는 상태 공간 크기 감소와 개선된 초기 분포로 인해 수렴 속도 향상이 뚜렷하기 때문이다.
• 원래 체인의 혼합 시간에 대한 이론적 경계는 종종 실용적으로 불가능한 크기이지만, 투영된 체인은 레이블이 아닌 구조적 특성에 초점을 맞춤으로써 더 빠르고 편향 없는 샘플링을 위한 실용적인 길을 제공한다.