[논문 리뷰] Subsampling large graphs and invariance in networks

Peter Orbanz|arXiv (Cornell University)|2017. 10. 11.

Complex Network Analysis Techniques참고 문헌 36인용 수 14

한 줄 요약

이 논문은 큰 네트워크에서 임의로 샘플된 하나의 부분그래프로부터의 학습을 위한 이론적 기반을 구축한다. 이는 무작위 부분샘플링을 분포 불변성과 에르고딕성과 연결함으로써 이루어지며, 특정한 샘플링 알고리즘—특히 무작위 군 변환의 극한으로 나타나는 것들—하에 부분샘플링이 교환 가능하거나 불변 모델(예: 그래프론)을 유도함으로써, 단일 실현치를 기반으로 한관련 네트워크 구조의 일관된 추론이 가능하다.

ABSTRACT

Specify a randomized algorithm that, given a very large graph or network, extracts a random subgraph. What can we learn about the input graph from a single subsample? We derive laws of large numbers for the sampler output, by relating randomized subsampling to distributional invariance: Assuming an invariance holds is tantamount to assuming the sample has been generated by a specific algorithm. That in turn yields a notion of ergodicity. Sampling algorithms induce model classes---graphon models, sparse generalizations of exchangeable graphs, and random multigraphs with exchangeable edges can all be obtained in this manner, and we specialize our results to a number of examples. One class of sampling algorithms emerges as special: Roughly speaking, those defined as limits of random transformations drawn uniformly from certain sequences of groups. Some known pathologies of network models based on graphons are explained as a form of selection bias.

연구 동기 및 목표

• 큰 네트워크에서 추출된 하나의 부분그래프 샘플이 원래 네트워크에 대한 일관된 추론을 가능하게 하는 조건을 확립하는 것.
• 무작위 부분샘플링 알고리즘과 분포 불변성, 특히 교환성과 에르고딕성 사이의 관계를 체계화하는 것.
• 이러한 샘플링 절차에 의해 유도되는 모델 클래스(예: 그래프론, 희박한 무작위 그래프 등)를 특성화하는 것.
• 샘플된 부분그래프의 분포가 입력 네트워크 구조를 유일하게 결정하는 조건을 규명하는 것.
• 그래프론 모델에서 알려진 병리적 현상들을 특정한 샘플링 메커니즘에서 기인하는 선택 편향으로 해석함으로써 해결하는 것.

제안 방법

• 입력 그래프 크기 $ n \to \infty $일 때의 형식적 극한 프레임워크를 제안: 무작위 알고리즘을 통해 추출된 $ k $-정점 부분그래프의 분포는 극한 분포 $ P_y = \mathcal{L}(S_\infty(y)) $로 수렴한다.
• 변환군 하에서의 분포 불변성(예: 교환성)을 이용해 에르고딕 모델을 정의하며, 이 경우 단일 샘플이 거의 확실히 기저 분포를 결정한다.
• 각 네트워크를 모든 접두 부분그래프 밀도 $ (t_{x_k}(y)) $로 이루어진 무한차원 벡터인 $ \mathbf{t}(y) $로 매핑하는 표준 충분통계량 $ \mathbf{t}(y) $을 도입한다.
• 보렐 섹션 정리를 적용하여 거의 확실히 $ \mathbf{t}(\sigma_Q(s)) = s $를 만족하는 가측 선택자 $ \sigma_Q $를 구성함으로써, 부분그래프로부터 네트워크 특징의 거의 확실한 복원이 가능해진다.
• 해결 가능 샘플링 알고리즘을 $ y \equiv_{\text{S}} y' $ iff $ \mathbf{t}(y) = \mathbf{t}(y') $를 만족하는 알고리즘으로 특성화함으로써, 모델 식별성이 보장된다.
• 네트워크 공간에서 수렴에 대한 수렴성을 증명하기 위해, $ \mathbf{t}^{(k)}(y) = \mathcal{L}(S_k(y)) $의 접두 부분밀도 수렴을 $ n $에 대한 네트워크로 분석하며, 네트워크 수렴 위상에서 충분통계량의 연속성을 입증한다.

실험 결과

연구 질문

• RQ1 큰 네트워크에서 추출된 하나의 부분그래프 샘플이 원래 네트워크 구조를 추론하는 데 충분한 정보를 포함하는 조건은 무엇인가?
• RQ2 무작위 부분샘플링 알고리즘이 교환성과 같은 분포 대칭성을 어떻게 유도하며, 어떤 모델 클래스를 생성하는가?
• RQ3 샘플된 부분그래프의 극한 분포가 에르고딕일 조건은 무엇이며, 이 경우 단일 실현치가 기저 분포를 유일하게 식별할 수 있는가?
• RQ4 변환군에 대한 불변성이 단일 샘플로부터의 일관된 추론을 보장하는 데 어떤 역할을 하는가?
• RQ5 그래프론 모델에서 특정 병리적 현상들이 발생하는 이유는 무엇이며, 이는 특정한 샘플링 메커니즘에서 기인하는 선택 편향으로 설명될 수 있는가?

주요 결과

• 샘플링 알고리즘이 적절한 변환군 하에서 분포 불변성을 보일 때에만, 이는 모델 클래스(예: 그래프론, 희박한 교환 가능 그래프 등)를 유도한다.
• 샘플링 알고리즘이 특정한 불변 조건을 만족할 때에만, 극한 부분그래프 분포 $ P_y = \mathcal{L}(S_\infty(y)) $는 에르고딕이 되며, 이는 단일 샘플로부터 기저 분포를 식별할 수 있음을 보장한다.
• 모든 접두 부분그래프 밀도로 이루어진 벡터인 충분통계량 $ \mathbf{t}(y) $는 네트워크 수렴 위상에서 연속적이다.
• 해결 가능 샘플링 알고리즘의 경우, $ y \equiv_{\text{S}} y' $ iff $ \mathbf{t}(y) = \mathbf{t}(y') $를 만족하므로, 서로 다른 네트워크가 서로 다른 부분그래프 분포를 유도함을 보장한다.
• 가측 선택자 $ \sigma_Q $가 존재하여 거의 확실히 $ \mathbf{t}(\sigma_Q(s)) = s $를 만족함을 통해, $ \mathbf{t} $에 대해 가측인 특징 $ f(y) $는 부분그래프로부터 거의 확실하게 복원 가능하다.
• 기존 그래프론 모델의 병리적 현상들은 비-해결 가능 샘플링 알고리즘, 특히 균일한 무작위 군 작용의 극한으로 나타나지 않는 알고리즘에서 기인하는 선택 편향으로 설명됨을 입증하였다.