[論文レビュー] The Maximum Likelihood Threshold of a Graph

Elizabeth Gross, Seth Sullivant|arXiv (Cornell University)|Apr 28, 2014

Structural Analysis and Optimization参考文献 18被引用数 5

ひとこと要約

本稿は、ガウス graphical モデルにおける最尤推定閾値（MLT）と組合せ的剛体理論の間で新しい関係を確立し、グラフの辺集合が $(n-1)$ 次元の一般的剛体マトロイドで独立である場合、その MLT は $n$ 以下であることを示している。この関係により、最尤推定器がほとんど確実に存在するためのサンプル数の上限がより厳しく制約され、従来の結果を著しく改善し、$n \ll m$ の高次元データ解析に幾何的フレームワークを提供する。

ABSTRACT

The maximum likelihood threshold of a graph is the smallest number of data points that guarantees that maximum likelihood estimates exist almost surely in the Gaussian graphical model associated to the graph. We show that this graph parameter is connected to the theory of combinatorial rigidity. In particular, if the edge set of a graph $G$ is an independent set in the $n-1$-dimensional generic rigidity matroid, then the maximum likelihood threshold of $G$ is less than or equal to $n$. This connection allows us to prove many results about the maximum likelihood threshold.

研究の動機と目的

• ガウス graphical モデルにおける共分散行列の最尤推定器（MLE）がほとんど確実に存在するための最小サンプル数 $n$ を特定すること。
• 最尤推定閾値（MLT）と組合せ的剛体理論、特に一般的剛体マトロイドとの理論的関係を確立すること。
• 特に $m \gg n$ のグラフに対して、剛体理論的ツールを用いて既存の MLT の上限を改善すること。
• MLT とその関連不変量（弱 MLT やスコアマッチング閾値）との関係を調査すること。
• MLT とより強い剛体性、すなわち $n$-依存的剛体性との関係を示す予想を提示すること。

提案手法

• MLE の存在と、部分的に観測された標本共分散行列に対するフルランクの正定値補完の存在が同値であることを用いる。
• 行列補完問題を、固定された対象距離とノルムを持つ $\mathbb{R}^n$ 内の点配置という幾何的枠組みに翻訳する。
• 一般的剛体マトロイド $\mathcal{A}(n-1)$ における結果を適用して MLT を制約する：辺集合が $\mathcal{A}(n-1)$ で独立であれば、$\mathrm{mlt}(G) \leq n$ である。
• 既知の剛体独立性およびグラフのランクに関する結果を活用し、特に弦的グラフやスパースグラフに対して $\mathrm{mlt}(G)$ の上限を導出する。
• スコアマッチング推定器の存在を、一般的剛体マトロイドにおける独立集合と関連付ける。
• $n$-依存的剛体性の概念を導入し、$\mathrm{mlt}(G) > n$ であることが、$G$ が一般的 $n$-依存的剛体であることにちょうど同値であると予想する。

実験結果

リサーチクエスチョン

• RQ1 ガウス graphical モデルにおいて、共分散行列の MLE が確率1で存在する最小のサンプル数 $n$ は何か？
• RQ2 グラフの最尤推定閾値は、組合せ的剛体理論とどのように関係しているか？
• RQ3 剛体理論的条件を用いて、木幅やクリーク数といった既存のグラフ不変量よりも、MLT の上限をより厳しく導けるか？
• RQ4 MLT は、$n$-依存的剛体性のようなより強い剛体性の性質によって正確に特徴付けられるか？
• RQ5 MLT、弱 MLT、スコアマッチング閾値の間の関係は何か？剛体理論はこれらの不変量を制約するのに役立つだろうか？

主な発見

• グラフ $G$ の辺集合が $(n-1)$ 次元の一般的剛体マトロイドで独立であれば、最尤推定閾値 $\mathrm{mlt}(G)$ は $n$ 以下で抑えられる。
• 弦的グラフに対しては $\mathrm{mlt}(G) = \omega(G)$（クリーク数）であり、以前の境界 $\omega(G) \leq \mathrm{mlt}(G) \leq \tau(G)+1$ よりも改善されている。
• スコアマッチング閾値 $\mathrm{smt}(G)$ は、辺集合が一般的剛体マトロイド $\mathcal{A}(n-1)$ で独立であれば $n$ 以下で抑えられ、統計的・幾何的リンクを直接得る。
• 弱最尤推定閾値 $\mathrm{wmlt}(G)$ は $G$ の彩色数以上で抑えられ、$\mathrm{wmlt}(G) = 2$ であるのは $G$ が特定の構造的条件を満たす場合に限る。
• 以前の $n$-推定可能性に関する予想に対して反例が存在する。例えば、ダブルバナナグラフはすべての部分グラフ $G'$ に対して不等式 $\#V' + \#E' \leq n\#V' - \binom{n}{2}$ を満たすが、$4$-推定可能ではない。
• 本稿では、$\mathrm{mlt}(G) > n$ であることが、$G$ が一般的 $n$-依存的剛体であることにちょうど同値であると予想しており、剛体性と統計的推定の間に深く、おそらく正確な関係があると示唆している。