[논문 리뷰] A maximum entropy approach to separating noise from signal in bimodal affiliation networks

Navid Dianati|arXiv (Cornell University)|2016. 07. 06.

Complex Network Analysis Techniques참고 문헌 12인용 수 4

한 줄 요약

이 논문은 양방향 소속 네트워크에서 신호와 잡음을 분리하기 위해 최대 엔트로피 기반의 영구 모델을 제안한다. 이 모델은 양성분의 차수 수열(엔티티 빈도 및 집합 크기)을 유지하면서, 공존 가중치에 대한 p-값을 보다 정교한 정규 근사법을 통해 계산하여 몬테카를로 샘플링 없이도 효율적인 유의성 검정을 가능하게 한다. 이 방법은 무거운 가중치 기반의 필터링보다 모듈러한 구조를 더 잘 드러내며, 110대 미국 상원 공동서명 네트워크에서의 정당 간 분열 구조를 잘 반영한다.

ABSTRACT

In practice, many empirical networks, including co-authorship and collocation networks are unimodal projections of a bipartite data structure where one layer represents entities, the second layer consists of a number of sets representing affiliations, attributes, groups, etc., and an inter-layer link indicates membership of an entity in a set. The edge weight in the unimodal projection, which we refer to as a co-occurrence network, counts the number of sets to which both end-nodes are linked. Interpreting such dense networks requires statistical analysis that takes into account the bipartite structure of the underlying data. Here we develop a statistical significance metric for such networks based on a maximum entropy null model which preserves both the frequency sequence of the individuals/entities and the size sequence of the sets. Solving the maximum entropy problem is reduced to solving a system of nonlinear equations for which fast algorithms exist, thus eliminating the need for expensive Monte-Carlo sampling techniques. We use this metric to prune and visualize a number of empirical networks.

연구 동기 및 목표

• 이중 데이터에서 유도된 조밀한 공존 네트워크에서 통계적으로 유의미한 간선을 식별하는 데 도전하는 것.
• 이중 네트워크에 대한 몬테카를로 기반 영구 모델의 계산 비용을 줄이는 효율적인 대안을 개발하는 것.
• 통계적으로 타당한 방식으로 엔티티의 빈도 수열과 집합의 크기 수열을 모두 유지하는 것.
• 잡음 간선을 견고하게 제거하면서 다스케일 네트워크 구조를 유지하는 것.
• 정당 간 분열과 같은 정당 네트워크에서의 공동체 구조 탐지 능력을 향상시키는 데에 이를 보여주는 것.

제안 방법

• 이중 네트워크의 양층의 기대 차수 수열을 유지하는 최대 엔트로피 영구 모델을 수립한다.
• 최대 엔트로피 문제의 해를 몬테카를로 샘플링에 의존하지 않고 비선형 방정식의 해법으로 환원한다.
• 영구 모델 하에서 임의의 두 엔티티 간의 기대 공존 빈도를 포아송 이항 분포로 모델링한다.
• 포아송 이항 분포의 누적분포함수에 대한 정교한 정규 근사를 적용하여 p-값을 신속하게 계산한다.
• 관측된 공존 가중치 $w_{ij}$에 대한 우측 꼬리 p-값 $ olpi_{ij}$를 기반으로 검정 통계량 $-\log(\pi_{ij})$를 사용하여 유의성 수준을 계산한다.
• 유의성 값이 임계값을 초과하는 간선만 유지함으로써 네트워크를 정제하고, 네트워크의 뼈대를 드러낸다.

실험 결과

연구 질문

• RQ1 기본적인 구조적 제약 조건을 유지하면서 이중 소속 네트워크에서 통계적으로 유의미한 공존 간선을 어떻게 식별할 수 있는가?
• RQ2 최대 엔트로피 기반 영구 모델이 기존의 무작위화 기반 방법보다 의미 있는 네트워크 구조 탐지 능력을 뛰어나게 할 수 있는가?
• RQ3 제안된 방법이 의회 네트워크에서 정당 간 분열과 같은 모듈러한 구조 탐지 능력을 얼마나 향상시키는가?
• RQ4 유의성 필터의 성능은 거대 컴ponent 크기와 모듈러리티 측면에서 무작위 가중치 기반 필터링과 비교해 어떻게 다를까?
• RQ5 계산 비용이 높은 몬테카를로 샘플링에 의존하지 않고도 이 방법을 효율적으로 계산할 수 있는가?

주요 결과

• 제안된 유의성 필터는 110대 미국 상원 공동서명 네트워크에서 높은 모듈러리티를 보이며, 민주당과 공화당 간의 분열을 명확히 반영한다.
• 네트워크 밀도가 2일 때, 유의성 필터를 사용해 정제한 결과 거대 컴포넌트에 전체 상원의원의 약 80%가 포함되며, 이는 무거운 가중치 기반 필터링에 비해 훨씬 큰 컴포넌트를 형성한다.
• 모든 잘라내기 수준에서, 유의성 필터를 사용한 정제된 네트워크의 모듈러리티는 무거운 가중치 기반 필터링보다 일관되고 유의미하게 높다.
• 몬테카를로 샘플링을 통한 영구 분포 추정에 의존하지 않고 비선형 방정식 시스템을 푸는 방식으로 높은 계산 효율성을 달성한다.
• 포아송 이항 분포의 누적분포함수에 대한 정교한 정규 근사는 신속하고 정확한 p-값 계산을 가능하게 하여, 대규모 네트워크에 대한 확장성 확보에 기여한다.
• 필터에 의해 식별된 공존 네트워크의 뼈대는 원래의 조밀한 네트워크에서 가려져 있던 명확하고 해석 가능한 공동체 구조를 보여준다.