[論文レビュー] New consistent and asymptotically normal estimators for random graph mixture models

Christophe Ambroise, Catherine Matias|arXiv (Cornell University)|Mar 26, 2010

Complex Network Analysis Techniques参考文献 30被引用数 5

ひとこと要約

本稿では、モーメント方程式と複合尤度を用いて、ランダムグラフ混合モデルの一貫性および漸近正規性推定量を提案し、ネットワーク構造がエッジおよびトライアド統計によって捉えられることを確立している。主な貢献は、従属するエッジ変数を伴う一般の所属モデルにおいて、√n-一貫性および漸近正規性を証明したことであり、変分推定法における長年の理論的ギャップを解消している。

ABSTRACT

Random graph mixture models are now very popular for modeling real data networks. In these setups, parameter estimation procedures usually rely on variational approximations, either combined with the expectation-maximisation ( extsc{em}) algorithm or with Bayesian approaches. Despite good results on synthetic data, the validity of the variational approximation is however not established. Moreover, the behavior of the maximum likelihood or of the maximum a posteriori estimators approximated by these procedures is not known in these models, due to the dependency structure on the variables. In this work, we show that in many different affiliation contexts (for binary or weighted graphs), estimators based either on moment equations or on the maximization of some composite likelihood are strongly consistent and $\sqrt{n}$-convergent, where $n$ is the number of nodes. As a consequence, our result establishes that the overall structure of an affiliation model can be caught by the description of the network in terms of its number of triads (order 3 structures) and edges (order 2 structures). We illustrate the efficiency of our method on simulated data and compare its performances with other existing procedures. A data set of cross-citations among economics journals is also analyzed.

研究の動機と目的

• ランダムグラフ混合モデルにおける変分推定の理論的保証の欠如に取り組むこと。これは、隠れグループ構造のため尤度が計算不能であるためである。
• 二値および重み付きグラフの両方において、ストークスティックブロックモデルの推定量の強い一貫性および√n-漸近正規性を確立すること。
• 所属モデルのもとで、ネットワーク構造がエッジ（次数2）およびトライアド（次数3）の統計量のみから完全に回復可能であることを示すこと。
• 現在の変分EMおよびベイズ的手法に代わる理論的裏付けのある代替手法を提供すること。これらは、公式な一貫性および漸近正規性の結果を欠いている。

提案手法

• エッジおよびトライアドカウントの十分統計量に基づくモーメントに基づく推定方程式を用いて、モデルパラメータを推定する。
• 局所的依存構造（例：ノードの三つ組）に基づく複合尤度を用いて、計算不能な完全尤度の計算を回避する。
• 弱い正則性条件のもとで、一貫性および漸近正規性を証明するために一様収束および等連続性の議論を適用する。
• 複合対数尤度の微分のテイラー展開を用いて漸近正規性を確立し、Godambe情報行列の逆行列によって定まる分散を持つ正規分布への収束を示す。
• 混合密度間のカルバック・ライブラー情報量を用いて、弱い正則性仮定のもとで真のパラメータの一意性と同定可能性を証明する。
• エッジ分布関数 f(·, θ) の連続性および滑らかさ、およびパrameter空間全体での一様収束を根拠として、推定量のロバスト性を保証する。

実験結果

リサーチクエスチョン

• RQ1 変分近似に依存せずに、ランダムグラフ混合モデルの一致的かつ漸近正規的推定量を構築できるか？
• RQ2 所属モデルにおけるネットワーク構造は、エッジおよびトライアド統計量のみから完全に回復可能か？
• RQ3 従属するネットワークモデルにおけるモーメント方程式または複合尤度に基づく推定量の理論的性質（一貫性および収束速度）は何か？
• RQ4 これらの推定量の漸近的挙動は、公式な理論的妥当性を欠く変分EMやMAP手順と比べてどう異なるか？

主な発見

• 提案されたモーメント方程式および複合尤度に基づく推定量は、二値および重み付きグラフの両方において、一般の所属モデルのもとで強く一貫しており、√n収束を示す。
• 推定量の漸近分布は正規分布であり、制限分散はGodambe情報行列の逆行列によって与えられ、極限における効率性が確認される。
• ネットワーク構造はエッジ（次数2）およびトライアド（次数3）の統計量によって完全に特徴付けられ、高次構造はモデル同定のための追加情報を持たない。
• 隠れグループ所属のため完全尤度が計算不能であっても、推定量は√n-一貫性を達成しており、分野における主要な理論的ギャップが解消される。
• グループの割合が等しい場合、収束速度は1/nに改善され、対称的状況での推定がより速くなる。
• シミュレーテッドデータおよび経済学雑誌間の実世界のクロス・リファレンスネットワークを用いた実験により、既存手法と比較して優れた性能が確認された。