[論文レビュー] Estimation of Network structures from partially observed Markov random fields

Yves F. Atchadé|arXiv (Cornell University)|Aug 14, 2011

Statistical Methods and Inference参考文献 20被引用数 4

ひとこと要約

本稿では、欠損ノードをモデルの不適合とみなして、部分的に観測されたマルコフ確率場（MRF）から高次元ネットワーク構造を推定するためのペナルティ付き擬似尤度手法を提案する。欠損データの程度に依存する収束速度の上限を導出し、欠損が限定的である限り推定量が安定することを示している。

ABSTRACT

We consider the estimation of high-dimensional network structures from partially observed Markov random field data using a penalized pseudo-likelihood approach. We fit a misspecified model obtained by ignoring the missing data problem. We study the consistency of the estimator and derive a bound on its rate of convergence. The results obtained relate the rate of convergence of the estimator to the extent of the missing data problem. We report some simulation results that empirically validate some of the theoretical findings.

研究の動機と目的

• 欠損ノードのため部分的に観測された状況下で、高次元ネットワーク構造を推定する課題に対処すること。
• MRFの周辺化がMRF形式を保存しないこと、したがって欠損を無視する標準的手法が不適切であることを見抜くこと。
• 未観測ノードを考慮しながら、観測データに擬似尤度モデルをフィットさせることで、モデル不適合下でも一貫性のある推定フレームワークを構築すること。
• 理論的分析により、欠損データ問題が深刻化するに従い推定量の収束速度がどの程度劣化するかを定量化すること。

提案手法

• モデル不適合のMRFモデルにおけるネットワーク構造パラメータθを推定するために、ペナルティ付き擬似尤度手法を用いる。
• 観測データを完全なMRFモデルに従うものとみなして扱い、欠損ノードを無視し、スパarsityを促進するためにℓ¹正則化を適用する。
• 経験過程理論とブレケットエントロピーを用いて、推定量の収束速度に関する理論的上限を導出する。
• 欠損ノードによる条件付き密度の変動に起因する期待値の差を制御するために、比較補題を適用する。
• パラメータ差のℓ¹ノルムに基づく局所化アプローチを用いて、推定誤差を制御する。
• 濃度不等式とエントロピーに基づく境界を用いて、パラメータ空間でインdex付けられた経験過程に対する一様な制御を確立する。

実験結果

リサーチクエスチョン

• RQ1 欠損ノードの存在が、MRFにおけるネットワーク構造推定の一致性と収束速度にどのように影響するか？
• RQ2 真のモデルが未観測ノードのため不適合である場合でも、ペナルティ付き擬似尤度推定量は一貫性を保つことができるか？
• RQ3 欠損ノードの数や影響が増加するに従い、収束速度はどの程度劣化するか？
• RQ4 欠損データによるモデル不適合下で、推定量に対してどのような理論的保証を確立できるか？
• RQ5 欠損データの構造（例えば、観測ノードへの接続性）が推定精度にどのように影響するか？

主な発見

• ペナルティ付き擬似尤度推定量は、データが部分的に観測され、モデルが不適合であっても、真のネットワーク構造に対して一貫性を示す。
• 推定量の収束速度は、δₙ√(aₙ log pₙ)に比例する項によって上限づけられており、このδₙが欠損ノードの有効な影響を捉えている。
• 欠損データの程度が増加するに従い収束速度が劣化するが、上限は明示的に欠損度の大きさと関連づけられている。
• 理論的分析により、欠損が限定的である限り推定量の性能が安定することが示され、特に√(aₙ log pₙ) = O(α′ₙ√n)のとき収束が保証される。
• シミュレーション結果は理論的発見を実証的に検証しており、中程度の欠損に対してもロバストであることが示された。
• 比較補題とエントロピーに基づく境界は、経験過程の逸脱を制御する上で中心的な役割を果たし、一様濃度不等式の導出を可能にした。