[論文レビュー] Robust Graphical Modeling with t-Distributions

Michael Finegold, Mathias Drton|arXiv (Cornell University)|Aug 9, 2014

Bayesian Modeling and Causal Inference参考文献 6被引用数 5

ひとこと要約

本論文は、外れ値を含む高次元データにおける推論を改善するために、多変量スチューデントt分布を用いた頑健なグラフィカルモデリングを提案する。罰則付き尤度推定とEMアルゴリズムを組み合わせることで、効率的な構造学習を実現し、重い尾を持つおよび汚染された観測値を伴う実世界の遺伝子発現データにおいて、ガウスグラフィカルモデルよりも優れた性能を示している。

ABSTRACT

Graphical Gaussian models have proven to be useful tools for exploring network structures based on multivariate data. Applications to studies of gene expression have generated substantial interest in these models, and resulting recent progress includes the development of fitting methodology involving penalization of the likelihood function. In this paper we advocate the use of the multivariate t and related distributions for more robust inference of graphs. In particular, we demonstrate that penalized likelihood inference combined with an application of the EM algorithm provides a simple and computationally efficient approach to model selection in the t-distribution case.

研究の動機と目的

• 高次元設定下での外れ値や重い尾を持つデータに対して感受性の高いガウスグラフィカルモデルの問題に対処すること。
• 多変量t分布を用いたガウスグラフィカルモデルの代替となる頑健な手法を開発すること。
• 罰則付き尤度とEMアルゴリズムを用いて、t分布に従うグラフィカルモデルにおける効率的なモデル選択を可能にすること。
• 正規性の仮定が頻繁に破れる遺伝子発現データにおけるネットワーク構造推定を改善すること。
• 非ガウス的で重い尾を持つデータ下でも、計算的に実行可能な頑健なグラフィカルモデリング手法を提供すること。

提案手法

• グラフィカルモデリングの基礎分布として、ガウス分布よりも外れ値に対して頑健な多変量t分布を採用する。
• t分布の自由度を頑健性のパラメータとして用いることで、構造学習のための罰則付き尤度アプローチを定式化する。
• t分布に内在する潜在変数構造を処理するため、尤度の効率的計算を可能にするEMアルゴリズムを実装する。
• EMアルゴリズムを用いて、逐次的に平均、分散共分散行列、および自由度を推定し、同時によりスパース性を誘導する罰則を精度行列に適用する。
• 逆スケール行列にグラフィカルラasso型の罰則を適用して、スパースなグラフィカル構造を促進する。
• EMフレームワーク内において座標昇下法を最適化することで、安定した収束を実現する。

実験結果

リサーチクエスチョン

• RQ1 重い尾や汚染されたデータが存在する状況下で、多変量t分布はガウス分布よりも頑健なグラフィカルモデル推定を可能にするか？
• RQ2 罰則付き尤度推定は、t分布に従うグラフィカルモデルにどのように適応され、スパarsityと計算効率を確保できるか？
• RQ3 潜在変数を伴うt分布に従うグラフィカルモデルにおいて、EMアルゴリズムはパラメータ推定をどの程度改善するか？
• RQ4 実際の遺伝子発現データにおいて、本手法はガウスグラフィカルモデルと比較して、構造回復の正確性においてどの程度優れているか？
• RQ5 t分布における自由度のパラメータは、モデルの頑健性およびネットワーク構造推定にどのような影響を与えるか？

主な発見

• 提案されたt分布に基づくグラフィカルモデルは、重い尾や汚染されたデータ条件下でも、真のネットワーク構造の回復においてガウスグラフィカルモデルを上回る性能を示した。
• 罰則付き尤度とEMアルゴリズムの組み合わせにより、高次元データでさえも安定的かつ効率的なパラメータ推定が可能になった。
• 外れ値の影響によりガウスモデルが失敗する実際の遺伝子発現データセットにおいて、本手法は意味のある遺伝子調節ネットワークを効果的に同定した。
• t分布における自由度パラメータは、頑健性の制御として機能し、低い値はより重い尾に耐性があることを示している。
• 実験的結果から、t分布ベースのモデルはガウスモデルと比較して、ネットワーク回復における真陽性率が高く、偽発見率が低いことが示された。
• 計算複雑性は管理可能であり、中程度から高次元の生物学的データセットへのスケーラビリティを確保している。