[論文レビュー] Maximum Likelihood Estimation in Network Models

Alessandro Rinaldo, Sonja Petrović+1 more|arXiv (Cornell University)|May 31, 2011

Complex Network Analysis Techniques参考文献 55被引用数 15

ひとこと要約

本稿は、次数列を最小十分統計量とするランダムグラフモデル（ベータモデルやラシュ・ブラッドレー・テリーなどの関連モデルを含む）における最尤推定（MLE）の存在に必要な十分条件を確立する。非推定可能なパラメータの組み合わせ的特徴付けを提供し、積多項分布標本化下での対数線形モデルによるアルゴリズムを構築し、MLEの非存在を検出するとともに非推定可能なパラメータを同定する。

ABSTRACT

We study maximum likelihood estimation for the statistical model for both directed and undirected random graph models in which the degree sequences are minimal sufficient statistics. In the undirected case, the model is known as the beta model. We derive necessary and sufficient conditions for the existence of the MLE that are based on the polytope of degree sequences, and wecharacterize in a combinatorial fashion sample points leading to a nonexistent MLE, and non-estimability of the probability parameters under a nonexistent MLE. We formulate conditions that guarantee that the MLE exists with probability tending to one as the number nodes increases. By reparametrizing the beta model as a log-linear model under product multinomial sampling scheme, we are able to provide usable algorithms for detecting nonexistence of the MLE and for identifying non-estimable parameters. We illustrate our approach on other random graph models for networks, such as the Rasch model, the Bradley-Terry model and the more general p1 model of Holland and Leinhardt (1981).

研究の動機と目的

• 次数列が最小十分統計量であるランダムグラフモデルにおける最尤推定（MLE）が存在する条件を特定すること。
• 無向ネットワークにおいてMLEが非存在となるような標本次数列を特徴づけること。
• MLEが非存在となる場合に、どの確率的パラメータが非推定可能となるかを同定すること。
• 再パラメトリゼーションを対数線形モデルとして用いることで、MLE非存在および非推定可能なパラメータを検出する実用的なアルゴリズムを開発すること。
• p1モデルなど他のネットワークモデルへのフレームワークの拡張を図ること。

提案手法

• 次数列の多面体の幾何学的性質に基づき、MLE存在に必要な十分条件を導出する。
• 積多項分布標本化下でベータモデルを対数線形モデルとして再表現し、統計的推論を可能にする。
• 次数列の組み合わせ的性質を用いて、MLEが非存在となる構成を同定する。
• 十分統計量の構造とモデル制約を用いて、非推定可能なパラメータのアルゴリズム的検出を実施する。
• 対数線形表現を活用し、MLE非存在の診断に計算的に実行可能な手順を構築する。
• p1モデルを含む既存のネットワークモデルに対してフレームワークを検証し、広範な適用可能性を示す。

実験結果

リサーチクエスチョン

• RQ1 次数列が十分統計量であるランダムグラフモデルにおいて、MLEが非存在となる条件は何か？
• RQ2 ベータモデルや関連モデルにおいて、どの標本次数列が非推定可能なパラメータを生じるか？
• RQ3 実際の応用において、MLEの非存在をどのようにアルゴリズム的に検出できるか？
• RQ4 次数列のどの組み合わせ的性質がMLEの存在・非存在を決定づけるか？
• RQ5 本フレームワークは、ラシュモデルやブラッドレー・テリー・モデルなどの他のネットワークモデルへも拡張可能か？

主な発見

• MLEは、観測された次数列がすべての可能な次数列の多面体の相対的内部にあるときにかつそのときに限り存在する。
• 多面体の境界上にある標本次数列は、MLEの非存在と非推定可能なパラメータをもたらす。
• 本稿は、次数列の多面体の構造に基づき、MLE非存在を引き起こす次数列の組み合わせ的特徴付けを提供する。
• 積多項分布標本化下でベータモデルを対数線形モデルとして再パラメトリゼーションすることにより、MLE非存在の検出および非推定可能なパラメータの同定に実用的なアルゴリズムを可能にする。
• ややきつい正則性条件のもとで、ノード数が増加するにつれてMLEが存在する確率は1に収束することが保証される。
• 本アプローチは、ラシュモデル、ブラッドリー・テリー・モデル、p1モデルなど他のネットワークモデルへも成功裏に拡張可能であり、広範な適用可能性が示された。