[論文レビュー] Latent variable model selection for Gaussian conditional random fields

Benjamin Frot, Luke Jostins+1 more|arXiv (Cornell University)|Dec 20, 2015

Gene expression and cancer classification参考文献 35被引用数 3

ひとこと要約

本稿では、正則化最尤推定を用いて、潜在変数を伴う状況下でガウス型条件付きマルコフ確率場を学習するための低ランク＋スパース分解手法を提案する。この手法は、スパースistentなグラフ回復を達成し、シミュレーションおよび実際の遺伝子データへの応用において、既存手法を上回り、生物学的関連性の向上とコhort間での再現性の向上を示した。

ABSTRACT

We consider the problem of learning a conditional Gaussian graphical model in the presence of latent variables. Building on recent advances in this field, we suggest a method that decomposes the parameters of a conditional Markov random field into the sum of a sparse and a low-rank matrix. We derive convergence bounds for this estimator and show that it is well-behaved in the high-dimensional regime as well as "sparsistent" (i.e. capable of recovering the graph structure). We then show how proximal gradient algorithms and semi-definite programming techniques can be employed to fit the model to thousands of variables. Through extensive simulations, we illustrate the conditions required for identifiability and show that there is a wide range of situations in which this model performs significantly better than its counterparts, for example, by accommodating more latent variables. Finally, the suggested method is applied to two datasets comprising individual level data on genetic variants and metabolites levels. We show our results replicate better than alternative approaches and show enriched biological signal.

研究の動機と目的

• 観測された依存関係を歪める潜在変数が存在する状況下で、条件付きガウス型グラフィカルモデルを学習する課題に対処すること。
• 測定済みの共変量に条件づけた観測変数を同時にモデル化しつつ、観測されない潜在要因を考慮する手法を開発すること。
• p > n の高次元設定において、一貫性およびスパースistent性を保証すること。
• 現実の遺伝子データおよびオミックスデータのシナリオにおいて、既存手法よりもモデルの同定可能性と性能を向上させること。

提案手法

• 応答変数の精度行列を、直接の条件付き依存関係を表すスパース成分と、潜在変数の影響を表す低ランク成分に分解する。
• l1ノルム（スパース性のため）とノルム（低ランク構造のため）を組み合わせた正則化項を有する最尤推定器を用いる。
• 目的関数を効率的に最適化するため、近接勾配法と半正定値計画法を採用し、数千変数規模にスケーリング可能である。
• 最適化問題を分散かつスケーラブルに解くために、交替方向乗数法（ADMM）を適用する。
• チューニングパラメータの選択に対するロバスト性を高めるために、補完的ペアを用いた安定性選択を統合する。
• 理論的収束バウンズを導出し、適切な同定可能性条件の下で一貫性およびスパースistent性を確立する。

実験結果

リサーチクエスチョン

• RQ1 p > n の高次元設定下で、潜在変数を伴う条件付きガウス型グラフィカルモデルを一貫して推定できるか？
• RQ2 潜在交絡要因が存在する状況で、低ランク＋スパース分解が同定可能となる条件は何か？
• RQ3 実際の遺伝子データにおいて、提案手法は既存手法と比べてグラフ構造の回復性および生物学的関連性において優れているか？
• RQ4 遺伝学的研究において、独立したコhort間での結果の再現性が、どの程度向上されるか？
• RQ5 この手法はチューニングパラメータの選択に対してどれほどロバストであり、安定性選択は感受性を軽減できるか？

主な発見

• 適切な同定可能性条件の下で、提案推定量は高次元的設定において一貫性およびスパースistent性を示す。
• 特に複数の潜在変数が存在する状況では、シミュレーションにおいて既存手法を著しく上回る性能を発揮する。
• ALSPAC遺伝子データセットにおいて、LSCGGMは母体および子供のコhort間で最高の再現率を達成し、安定なパrameter領域では他の手法よりも高い値を示した。
• 独立な出典および経路強調解析による検証を通じて、本モデルは代替手法よりも生物学的シグナルをより効果的に再現した。
• lassoベースの推定量と比較して、チューニングパrameter γ に対して感受性が低く、実用的利便性が向上した。
• 補完的ペアを用いた安定性選択は、ロバスト性を向上させるとともに誤差制御を可能にし、高次元データから信頼性の高い因果仮説を生成するのを支援した。