[論文レビュー] Graph quilting: graphical model selection from partially observed covariances

Giuseppe Vinci, Gautam Dasarathy+1 more|arXiv (Cornell University)|Dec 11, 2019

Gene expression and cancer classification参考文献 78被引用数 6

ひとこと要約

この論文は、多くの変数対が同時に測定されていない部分的に観測された共分散からガウス graphical モデルを学習するための Graph Quilting を導入する。$β$--strongly convex 最適化と $β$-strongly smooth 最適化に $β$-conditioning を組み合わせることで、周辺的依存関係が観測されていなくても条件付き依存関係を回復でき、弱い条件下でも一貫した精度行列推定が可能となり、エッジ回復について有限標本保証を提供する。

ABSTRACT

Graphical model selection is a seemingly impossible task when many pairs of variables are never jointly observed; this requires inference of conditional dependencies with no observations of corresponding marginal dependencies. This under-explored statistical problem arises in neuroimaging, for example, when different partially overlapping subsets of neurons are recorded in non-simultaneous sessions. We call this statistical challenge the "Graph Quilting" problem. We study this problem in the context of sparse inverse covariance learning, and focus on Gaussian graphical models where we show that missing parts of the covariance matrix yields an unidentifiable precision matrix specifying the graph. Nonetheless, we show that, under mild conditions, it is possible to correctly identify edges connecting the observed pairs of nodes. Additionally, we show that we can recover a minimal superset of edges connecting variables that are never jointly observed. Thus, one can infer conditional relationships even when marginal relationships are unobserved, a surprising result! To accomplish this, we propose an $\ell_1$-regularized partially observed likelihood-based graph estimator and provide performance guarantees in population and in high-dimensional finite-sample settings. We illustrate our approach using synthetic data, as well as for learning functional neural connectivity from calcium imaging data.

研究の動機と目的

• 多くの変数対が同時に観測されない状況において graphical モデルを学習する統計的課題に取り組むこと。これは神経画像法やゲノム研究で一般的な状況である。
• 観測されていない変数対の間で周辺的依存関係の実証的証拠がない場合でも、条件付き依存関係を推定できることを示すこと。
• 観測済みおよび観測されていない変数対の間のエッジを特定する手法を開発し、真のエッジの最小上位集合を回復すること。
• 提案された推定量の母集団および高次元有限標本設定における理論的性能保証を提供すること。
• 合成データおよび実際のカルシウムイメージングデータを用いた実験を通じて、機能的神経結合の推定に本手法の有効性を示すこと。

提案手法

• 部分的共分散観測下での精度行列推定のための $β$-strongly convex かつ $β$-strongly smooth 最適化フレームワークを提案する。
• 高次元設定における最適化プロセスの安定性と収束性を保証するため、$β$-conditioning を用いる。
• $β$-strong convexity および smoothness を用いて、推定された精度行列における有限標本誤差バウンドを導出する。
• Schur 補完恒等式を用いて精度行列を分解し、部分行列の摂動を分析する。
• スパarsity を促進し、欠損データに対処するため、$β$-norm ペナルティを正則化項として用いた尤度ベース推定量を導入する。
• 真の精度行列と推定された精度行列の $∞$-ノルム差に理論的バウンドを導出し、エッジ回復の一貫性を保証する。

実験結果

リサーチクエスチョン

• RQ1 非同時測定によって特定の変数対の周辺的依存関係が観測されない場合、条件付き依存関係を回復できるか？
• RQ2 欠損データがあるにもかかわらず、一度も同時に観測されない変数対を接続するエッジの最小上位集合を特定することは可能か？
• RQ3 どのような条件下で、部分的に観測された共分散行列からスパースな精度行列を一貫して推定できるか？
• RQ4 $p > n$ で多くのペアが観測されていない高次元設定において、提案された推定量はどのように性能を示すか？
• RQ5 観測された共分散行列が不完全であっても、真のグラフ構造を回復できるか？

主な発見

• 提案された推定量は、完全な共分散行列が観測されていなくても、観測された変数対のエッジを弱い条件下で一貫して回復する。
• 本手法は、観測されていない変数対の間のエッジの最小上位集合を効果的に特定でき、周辺的依存関係の証拠がなくても条件付き依存関係の推定が可能になる。
• $∞$-ノルムにおける精度行列推定誤差の有限標本バウンドが導出され、$β$-conditioning の下で収束が示された。
• 母集団および高次元設定の両方で理論的保証が確立され、信頼性の高いグラフ選択が可能になる。
• 合成データおよびカルシウムイメージングデータを用いた実証的検証により、本手法が高い正確性で機能的神経結合を回復できることを確認した。
• Schur 補完に基づく分解により、部分行列の摂動の精密な分析が可能となり、理論的性能バウンドの根拠が裏付けられた。