[論文レビュー] Robust Gaussian Graphical Modeling with the Trimmed Graphical Lasso

Eunho Yang, Aurélie Lozano|arXiv (Cornell University)|Oct 28, 2015

Statistical Methods and Inference参考文献 27被引用数 15

ひとこと要約

本稿では、外れ値を含む高次元設定下でのスパースなガウス graphical モデルの推定のためのロバストな手法、Trimmed Graphical Lasso を提案する。ℓ₁正則化を伴う重み付き負の対数尤度を用いて、最も信頼性の低い観測値を暗黙的にトリミングすることで、強い理論的保証のもとで一貫性のある推定が達成され、シミュレーションおよび実際のイースト遺伝子発現データにおいて、既存のロバスト手法を上回る性能を示した。

ABSTRACT

Gaussian Graphical Models (GGMs) are popular tools for studying network structures. However, many modern applications such as gene network discovery and social interactions analysis often involve high-dimensional noisy data with outliers or heavier tails than the Gaussian distribution. In this paper, we propose the Trimmed Graphical Lasso for robust estimation of sparse GGMs. Our method guards against outliers by an implicit trimming mechanism akin to the popular Least Trimmed Squares method used for linear regression. We provide a rigorous statistical analysis of our estimator in the high-dimensional setting. In contrast, existing approaches for robust sparse GGMs estimation lack statistical guarantees. Our theoretical results are complemented by experiments on simulated and real gene expression data which further demonstrate the value of our approach.

研究の動機と目的

• 高次元的かつ外れ値に汚染されたデータ下で、既存のロバストなスパースなガウス graphical モデルが統計的に一貫性を欠いているという問題に対処すること。
• 重-tailed または汚染された観測値に対して耐性を持つ一方で、スパarsity を維持するロバストな推定手法を開発すること。
• 高次元的設定下におけるロバストな graphical モデル推定量の厳密な統計的一致性の結果を提供すること。
• 遺伝子発現解析など、データ汚染が一般的な実世界の応用において、ネットワーク回復の正確性を向上させること。

提案手法

• ガウス graphical モデルのための重み付き負の対数尤度を定式化し、重みは外れ値性の高い観測値を暗黙的にトリミングするように学習される。
• 負の対数尤度への寄与が最大の観測値を低減する、トリミングされた損失関数を導入。これは回帰におけるLeast Trimmed Squares にインspiredされたものである。
• 最適化は2段階戦略により実行される：精度行列に対する座標デセントと、外れ値を特定・低減するための反復的再重み付け。
• 計算スケーラビリティを向上させるために、部分最適化を組み合わせた効率的なコンポジット勾配降下法が用いられる。
• 精度行列へのℓ₁正則化によりスパarsity が強制され、スパースなネットワーク構造が保証される。
• 理論的分析により、高次元漸近的条件下での推定量の一貫性が確立され、先行研究と比較して顕著な進展が達成された。

実験結果

リサーチクエスチョン

• RQ1 外れ値を含む高次元的設定下でも統計的に一貫性を保つロバストな graphical モデル推定量を開発できるか？
• RQ2 汚染下において、観測値の暗黙的トリミングは、標準的な graphical lasso より推定精度をどのように向上させるか？
• RQ3 異なるトリミング割合が、モデルの性能および計算効率に与える影響は何か？
• RQ4 シミュレーションおよび実データにおいて、本手法は既存のロバスト手法と比較して、真のネットワーク構造をどれほど正確に回復できるか？

主な発見

• イースト遺伝子発現ネットワークにおいて、Trimmed Graphical Lasso は最高の F₁スコア（0.41）を達成し、glasso（0.23）、t*-lasso（0.37）、robust-LL（0.39）を上回った。
• h/n = 80% の条件下で、ROC解析において、すべての特異度レベルで優れた感度を示した。特に、高汚染度の状況（M2、M4、M5）で顕著な優位性を示した。
• 計算効率が高く、glasso の平均実行時間は 1.04s、trimmed lasso は 1.58s であり、t-lasso（22.14s）と robust-LL（11.06s）を上回った。
• 理論的分析により、高次元的設定下でロバストなスパース GGM 推定量に対する統計的一致性の保証が、本研究で初めて確立された。
• シミュレーションでは、重-tailed および外れ値に影響を受けやすいデータを含むさまざまな汚染モデル下でも、真のネットワーク構造が一貫して回復された。
• 本手法は、ケッグ経路情報に合致する生物学的に意味のあるハブ（例：CDC6 および PDS1）を同定した。