[論文レビュー] Sure Screening for Gaussian Graphical Models

Shikai Luo, Rui Song+1 more|arXiv (Cornell University)|Jul 29, 2014

Statistical Methods and Inference参考文献 26被引用数 17

ひとこと要約

本稿では、共分散行列の標本相関をしきい値処理することにより、高次元設定下でのガウス graphical モデルの推定に計算的に効率的な GRASS（Graphical Sure Screening）を導入する。この手法は、すべての真のエッジが含められることが高確率で保証される「sure screening 性質」を確立し、データ駆動のしきい値によって期待される誤検出率を制御可能である。

ABSTRACT

We propose {graphical sure screening}, or GRASS, a very simple and computationally-efficient screening procedure for recovering the structure of a Gaussian graphical model in the high-dimensional setting. The GRASS estimate of the conditional dependence graph is obtained by thresholding the elements of the sample covariance matrix. The proposed approach possesses the sure screening property: with very high probability, the GRASS estimated edge set contains the true edge set. Furthermore, with high probability, the size of the estimated edge set is controlled. We provide a choice of threshold for GRASS that can control the expected false positive rate. We illustrate the performance of GRASS in a simulation study and on a gene expression data set, and show that in practice it performs quite competitively with more complex and computationally-demanding techniques for graph estimation.

研究の動機と目的

• p が数万に達するような場合に、従来のスパース精度行列推定手法の計算不能性に対処する。
• 高次元 graphical モデリングにおいて、計算時間を大幅に削減しながらも統計的信頼性を維持するスクリーニング手順を開発する。
• p が標本サイズ n とともに指数関数的に増加する高次元漸近的設定下で、エッジ回復に関する理論的保証を提供する。
• 根拠に基づいたしきい値選択を通じて、エッジ選択における期待誤検出率を制御可能にする。
• 単純なマージナルスクリーニングと複雑な精度行列推定の間のギャップを埋めるために、未教師付き graphical モデルに sure screening を適用する。

提案手法

• GRASS は、標本共分散行列の非対角要素をしきい値処理することで、条件付き独立グラフを推定する。
• この手法は、標本相関の大きさに基づいてエッジを選択する：|X_a^T X_b / n| > γ_n、ここで γ_n はデータ駆動のしきい値である。
• しきい値 γ_n は、期待誤検出率を f/[p(p-1)] に制御するため、Φ⁻¹(1 - f/(p(p-1)))/√n として設定される。
• 理論的分析により、やや弱い仮定のもとで、推定されたエッジ集合が高確率で真のエッジ集合を含むことが示される。
• 精度行列の列が回帰係数に対応することを活用し、マージナル相関に基づくスクリーニング戦略を可能にする。
• この手法は O(p²) の計算複雑度を達成するが、従来のグラフィカルラッソなどの手法は O(p³) である。

実験結果

リサーチクエスチョン

• RQ1 単純で計算的に効率的なスクリーニング手順は、高次元設定下でガウス graphical モデルの真の条件付き依存構造を回復できるか？
• RQ2 共分散行列における標本相関をしきい値処理することで、すべての真のエッジが高確率で含められる「sure screening 性質」を持つ手法が得られるか？
• RQ3 データ駆動のしきい値処理ルールによって、エッジ選択における期待誤検出率を制御できるか？
• RQ4 グラフィカルラッソのようなより複雑で計算コストの高い手法と比較して、GRASS の性能は高次元状況下でどのように異なるか？
• RQ5 GRASS と ℓ₁-罰則付き尤度推定のような既存のスパース精度行列推定技術との理論的関係は何か？

主な発見

• GRASS は sure screening 性質を達成する：p が n とともに指数関数的に増加する場合でも、推定されたエッジ集合が真のエッジ集合を高確率で含む。
• しきい値 γ_n = Φ⁻¹(1 - f/(p(p-1)))/√n を選ぶことで、期待誤検出率を f/[p(p-1)] に制御可能である。
• GRASS の計算コストは O(p²) であり、p = 25,000 やそれ以上の変数を含む問題に対してもスケーラブルである。
• シミュレーションおよび遺伝子発現データセットの両方で、GRASS はグラフィカルラッソのようなより複雑な手法と競合する性能を示した。
• 理論的分析により、GRASS と ℓ₁-罰則付き尤度推定との間で驚くべき関係が明らかになった。
• この手法は、回帰設定を超えて未教師付き graphical モデリングに sure screening を適用した最初のものである。