[論文レビュー] PC algorithm for Gaussian copula graphical models

Naftali Harris, Mathias Drton|arXiv (Cornell University)|Jul 1, 2012

Bayesian Modeling and Causal Inference参考文献 10被引用数 4

ひとこと要約

この論文は、ピアソン相関を順位に基づく相関（スピアマンのρ）に置き換えることで、ガウスコプルラグラフィカルモデルにおけるPCアルゴリズムの高次元的一致性を確立している。ランクPCアルゴリズムは正規性下ではピアソンPCと同等の性能を示し、非正規性下では顕著に優れるが、計算コストはほとんど上昇しない。

ABSTRACT

The PC algorithm uses conditional independence tests for model selection in graphical modeling with acyclic directed graphs. In Gaussian models, tests of conditional independence are typically based on Pearson correlations, and high-dimensional consistency results have been obtained for the PC algorithm in this setting. We prove that high-dimensional consistency carries over to the broader class of Gaussian copula or extit{nonparanormal} models when using rank-based measures of correlation. For graphs with bounded degree, our result is as strong as prior Gaussian results. In simulations, the `Rank PC' algorithm works as well as the `Pearson PC' algorithm for normal data and considerably better for non-normal Gaussian copula data, all the while incurring a negligible increase of computation time. Simulations with contaminated data show that rank correlations can also perform better than other robust estimates considered in previous work when the underlying distribution does not belong to the nonparanormal family.

研究の動機と目的

• ガウス分布モデルを超えて、より広いクラスのガウスコプルラ（非パラメトリック）モデルへとPCアルゴリズムの高次元的一致性を拡張すること。
• 順位に基づく相関尺度が、高次元設定におけるPCアルゴリズムの一貫性を保つことができるかを調査すること。
• 正規分布および非正規分布の両方のデータ分布下で、ランクPCアルゴリズムと標準のピアソンPCアルゴリズムの経験的性能を評価すること。
• 真の分布が非パラメトリック家族から逸脱する場合や、汚染が存在する状況において、順位相関のロバストネスを評価すること。
• 有界次数の仮定の下で、順位相関を用いたグラフィカルモデル選択における理論的裏付けを提供すること。

提案手法

• 条件付き独立性検定において、ピアソン偏相関を順位に基づく偏相関（スピアマンのρ）に置き換えることでPCアルゴリズムを適応させる。
• 仮説検定における標本サイズの補正を実施：条件集合Sに対して、有効標本サイズを|S| + 3だけ減少させることで自由度の補正を行う。
• フィッシャーのz変換を用いたランク偏相関の臨界値関数γ(n, |S|, z)を用いる。ここでzは標準正規分布の分位数として選ばれる。
• 精度行列の最小固有値とスパarsity制約に基づいて、ランク相関推定の均一誤差閾値εを導出する。
• 漸近的一致性を保証するため、zn = √(n−3) · log[(1 + cn/3)/(1 − cn/3)] という分位数列を用いる。
• 2つの主要なバインドにより一貫性を証明する：(1) 高確率で推定誤差 |ρ̂uv|S − ρuv|S|| < cn/3 が成立し、(2) 臨界値γ(n, |S|, zn)が[ cn/3, 2cn/3 ]の範囲内にあり、漸近的に正しい検定意思決定が可能になる。

実験結果

リサーチクエスチョン

• RQ1 ガウスコプルラモデルにおいて、ピアソン相関の代わりに順位に基づく相関を用いた場合、PCアルゴリズムは一貫性を保つのか？
• RQ2 多変量正規分布データ下で、ランクPCアルゴリズムの性能は標準のピアソンPCアルゴリズムと比べてどうか？
• RQ3 非正規的で非パラメトリックなデータ分布下でのランクPCの経験的性能はいかがなものか？
• RQ4 真の分布が非パラメトリック家族から逸脱する場合、順位相関はグラフィカルモデル選択におけるロバストネスを向上させ得るか？
• RQ5 特に有界次数のグラフにおいて、ランクPCアルゴリズムが高次元的一致性を維持する条件は何か？

主な発見

• グラフが有界次数を満たす限り、元のPCアルゴリズムがガウスモデルで成立するのと同じ条件下で、ランクPCアルゴリズムはガウスコプルラモデルでも高次元的一致性を達成する。
• 正規分布データ下では、モデル選択の正確性という観点から、ランクPCアルゴリズムはピアソンPCアルゴリズムと同等の性能を示す。
• 非正規的ガウスコプルラデータ下では、エッジ回復の正確性という観点から、ランクPCアルゴリズムはピアソンPCアルゴリズムを顕著に上回る。
• ランクPCの計算コストはピアソンPCとほとんど同一であり、順位変換と自由度の補正によるわずかな増加にとどまる。
• 汚染や非パラメトリック家族からの逸脱が存在する状況では、順位相関は先行研究で検討された他のロバスト推定量を上回る性能を示す。
• 理論的分析により、適切な有意水準列znの選択がなされれば、ランクPCで用いられる条件付き独立性検定は、確率が1に近づくという漸近的正確性を有することが確認された。