[论文解读] Maximum Likelihood Estimation in Network Models

Alessandro Rinaldo, Sonja Petrović+1 more|arXiv (Cornell University)|May 31, 2011

Complex Network Analysis Techniques参考文献 55被引用 15

一句话总结

本文建立了在度序列作为最小 sufficient 统计量的随机图模型中，最大似然估计（MLE）存在的必要与充分条件，涵盖 beta 模型及其相关模型（如 Rasch 模型和 Bradley-Terry 模型）。研究提供了不可估参数的组合表征，并通过乘积多项式抽样下的对数线性建模方法，开发了检测 MLE 不存在性及识别不可估参数的算法。

ABSTRACT

We study maximum likelihood estimation for the statistical model for both directed and undirected random graph models in which the degree sequences are minimal sufficient statistics. In the undirected case, the model is known as the beta model. We derive necessary and sufficient conditions for the existence of the MLE that are based on the polytope of degree sequences, and wecharacterize in a combinatorial fashion sample points leading to a nonexistent MLE, and non-estimability of the probability parameters under a nonexistent MLE. We formulate conditions that guarantee that the MLE exists with probability tending to one as the number nodes increases. By reparametrizing the beta model as a log-linear model under product multinomial sampling scheme, we are able to provide usable algorithms for detecting nonexistence of the MLE and for identifying non-estimable parameters. We illustrate our approach on other random graph models for networks, such as the Rasch model, the Bradley-Terry model and the more general p1 model of Holland and Leinhardt (1981).

研究动机与目标

• 确定在度序列是最小 sufficient 统计量的随机图模型中，最大似然估计（MLE）存在的条件。
• 表征导致无向网络中 MLE 不存在的样本度序列。
• 识别当 MLE 不存在时，哪些概率参数变为不可估。
• 通过重参数化为对数线性模型，开发检测 MLE 不存在性和不可估参数的实用算法。
• 将该框架扩展至其他网络模型，如 Rasch 模型、Bradley-Terry 模型和 p1 模型。

提出的方法

• 基于度序列多面体的几何性质，推导 MLE 存在的必要与充分条件。
• 在乘积多项式抽样方案下，将 beta 模型重表述为对数线性模型，以支持统计推断。
• 利用度序列的组合性质，识别导致 MLE 不存在的配置。
• 通过充分统计量的结构和模型约束，应用算法检测不可估参数。
• 利用对数线性表述，构建计算上可行的诊断 MLE 不存在性的程序。
• 在已建立的网络模型（包括 p1 模型）上验证该框架，以证明其广泛适用性。

实验结果

研究问题

• RQ1 在度序列作为充分统计量的随机图模型中，MLE 在何种条件下会不存在？
• RQ2 哪些样本度序列会导致 beta 模型及相关模型中的不可估参数？
• RQ3 在实际中，如何算法化地检测 MLE 的不存在性？
• RQ4 度序列的哪些组合性质决定了 MLE 是否存在？
• RQ5 该框架能否扩展至其他网络模型，如 Rasch 模型和 Bradley-Terry 模型？

主要发现

• MLE 存在当且仅当观测到的度序列位于所有可能度序列多面体的相对内部。
• 位于多面体边界上的样本度序列会导致 MLE 不存在及不可估参数。
• 本文基于度序列多面体的结构，提供了导致 MLE 不存在的度序列的组合表征。
• 通过将 beta 模型在乘积多项式抽样下重参数化为对数线性模型，作者实现了检测 MLE 不存在性和识别不可估参数的实用算法。
• 在温和正则性条件下，随着节点数增加，MLE 存在的概率趋于 1。
• 该方法成功扩展至其他网络模型，包括 Rasch 模型、Bradley-Terry 模型和 p1 模型，证明了其广泛适用性。