[논문 리뷰] Maximum Likelihood Estimation in Network Models

Alessandro Rinaldo, Sonja Petrović외 1명|arXiv (Cornell University)|2011. 05. 31.

Complex Network Analysis Techniques참고 문헌 55인용 수 15

한 줄 요약

이 논문은 도수 시퀀스가 최소 충분통계량이 되는 무작위 그래프 모형에서 최대우도추정량(MLE)의 존재를 위한 필요 및 충분조건을 설정한다. 이는 베타 모형과 라쉬 모형, 브래드리-터리 모형 등 관련 모형을 포함한다. 비추정 가능한 파라미터의 조합적 특성화를 제공하고, 곱 다항모수에서의 로그선형 모형을 통해 알고리즘을 개발하여 MLE의 존재하지 않음을 탐지하고, 비추정 가능한 파라미터를 식별한다.

ABSTRACT

We study maximum likelihood estimation for the statistical model for both directed and undirected random graph models in which the degree sequences are minimal sufficient statistics. In the undirected case, the model is known as the beta model. We derive necessary and sufficient conditions for the existence of the MLE that are based on the polytope of degree sequences, and wecharacterize in a combinatorial fashion sample points leading to a nonexistent MLE, and non-estimability of the probability parameters under a nonexistent MLE. We formulate conditions that guarantee that the MLE exists with probability tending to one as the number nodes increases. By reparametrizing the beta model as a log-linear model under product multinomial sampling scheme, we are able to provide usable algorithms for detecting nonexistence of the MLE and for identifying non-estimable parameters. We illustrate our approach on other random graph models for networks, such as the Rasch model, the Bradley-Terry model and the more general p1 model of Holland and Leinhardt (1981).

연구 동기 및 목표

• 도수 시퀀스가 최소 충분통계량이 되는 무작위 그래프 모형에서 최대우도추정량(MLE)의 존재 조건을 규명하는 것.
• 비방향 네트워크에서 MLE가 존재하지 않는 데 기여하는 표본 도수 시퀀스를 특성화하는 것.
• MLE가 존재하지 않을 경우 어떤 확률적 파라미터가 비추정 가능해지는지 식별하는 것.
• 재매개변수화를 통해 로그선형 모형으로서의 알고리즘을 개발하여 MLE 존재하지 않음을 실용적으로 탐지하고, 비추정 가능한 파라미터를 식별하는 것.
• p1 모형 등 다른 네트워크 모형으로 이 프레임워크를 확장하는 것.

제안 방법

• 도수 시퀀스의 다면체 기하학을 기반으로 MLE 존재를 위한 필요 및 충분조건을 유도한다.
• 곱 다항모수 샘플링 체계 하에서 베타 모형을 로그선형 모형으로 재표현하여 통계적 추론을 가능하게 한다.
• 도수 시퀀스의 조합적 성질을 활용하여 MLE가 존재하지 않는 구성 요소를 식별한다.
• 충분통계량의 구조와 모형 제약 조건을 통해 비추정 가능한 파라미터의 알고리즘적 탐지를 적용한다.
• 로그선형 표현을 활용하여 MLE 존재하지 않음을 진단하는 계산적으로 실현 가능한 절차를 구성한다.
• p1 모형을 포함한 기존 네트워크 모형에 대해 프레임워크를 검증하여 광범위한 적용 가능성을 입증한다.

실험 결과

연구 질문

• RQ1 도수 시퀀스가 충분통계량이 되는 무작위 그래프 모형에서 MLE가 존재하지 않는 조건은 무엇인가?
• RQ2 베타 모형 및 관련 모형에서 어떤 표본 도수 시퀀스가 비추정 가능한 파라미터를 초래하는가?
• RQ3 실제로 MLE 존재하지 않음을 알고리즘적으로 어떻게 탐지할 수 있는가?
• RQ4 도수 시퀀스의 어떤 조합적 성질이 MLE 존재 여부를 결정하는가?
• RQ5 이 프레임워크는 라쉬 모형, 브래드리-터리 모형 등 다른 네트워크 모형으로 확장할 수 있는가?

주요 결과

• MLE는 관측된 도수 시퀀스가 가능한 모든 도수 시퀀스의 다면체의 상대 내부에 있을 때에만 존재한다.
• 다면체의 경계에 위치한 표본 도수 시퀀스는 MLE가 존재하지 않으며, 비추정 가능한 파라미터를 초래한다.
• 논문은 도수 시퀀스 다면체의 구조를 기반으로 MLE 존재하지 않음을 초래하는 도수 시퀀스의 조합적 특성화를 제공한다.
• 곱 다항모수 샘플링 하에서 베타 모형을 로그선형 모형으로 재매개변수화함으로써, MLE 존재하지 않음을 탐지하고 비추정 가능한 파라미터를 식별하는 실용적 알고리즘을 가능하게 한다.
• 약간의 규칙성 조건 하에서 노드 수가 증가함에 따라 MLE 존재 확률이 1로 수렴함을 보장한다.
• 이 방법은 라쉬 모형, 브래드리-터리 모형, p1 모형 등 다른 네트워크 모형으로 성공적으로 확장되어 광범위한 적용 가능성을 입증한다.