[論文レビュー] A Projection Based Conditional Dependence Measure with Applications to High-dimensional Undirected Graphical Models

Jianqing Fan, Yang Feng+1 more|arXiv (Cornell University)|Jan 7, 2015

Advanced Statistical Methods and Models参考文献 56被引用数 9

ひとこと要約

本稿では、要因モデルフレームワーク下での高次元無向グラフィカルモデルに対して、射影に基づく条件付き独立性測度を提案する。非パラメトリック回帰からの残差推定と距離共分散検定を適用することで、漸近的に有効な第一種誤りの制御と、高次元の要因に対しても計算が効率的であることが達成され、既存の非パラメトリック検定よりもスケーラビリティと検出力で優れている。

ABSTRACT

Measuring conditional dependence is an important topic in statistics with broad applications including graphical models. Under a factor model setting, a new conditional dependence measure based on projection is proposed. The corresponding conditional independence test is developed with the asymptotic null distribution unveiled where the number of factors could be high-dimensional. It is also shown that the new test has control over the asymptotic significance level and can be calculated efficiently. A generic method for building dependency graphs without Gaussian assumption using the new test is elaborated. Numerical results and real data analysis show the superiority of the new method.

研究の動機と目的

• 潜在的要因の数が発散する可能性がある高次元データに対して、計算が効率的で漸近的に有効な条件付き独立性検定を開発すること。
• 既存の非パラメトリック条件付き独立性検定には、高次元において計算コストが高く、ブートストラップ手順が複雑であるという限界があるため、それらを是正すること。
• 多変量正規性を仮定しないで、高次元設定下での依存関係グラフの構築を可能にすること。
• ややきつい正則性条件の下で、第一種誤りの制御と収束速度に関する理論的保証を確立すること。

提案手法

• 2段階の手続きを提案する：まず、要因モデルフレームワークを用いて、共通要因に対する変数の非パラメトリック回帰からの残差を推定する。
• 次に、推定された残差に対して距離共分散に基づく検定を適用し、条件付き独立性を評価する。
• 要因モデルの構造を活用して次元削減を図り、計算効率を向上させる射影ベースの検定統計量を用いる。
• 要因の数が標本サイズとともに増加する可能性があるという仮定の下で、検定統計量の漸近的帰無分布を導出する。
• 誤差項と観測要因の間の独立性を含むややきつい正則性条件の下で、検定の一貫性を確立する。
• 条件付き独立性検定に基づく一般的なグラフ構築アルゴリズムを用いて、正規性仮定なしに無向依存関係グラフを構築する。

実験結果

リサーチクエスチョン

• RQ1 潜在的要因の数が発散する可能性がある高次元データに対して、計算が効率的で漸近的に有効な条件付き独立性検定を開発できるか？
• RQ2 要因の数が標本サイズとともに増加する状況でも、提案された射影ベースの検定が漸近的第1種誤り率を適切に制御できるか？
• RQ3 提案手法の性能は、既存の非パラメトリック条件付き独立性検定と比較して、検出力と計算スケーラビリティの面で優れているか？
• RQ4 多変量正規性を仮定しない状況でも、本手法を用いて信頼性の高い依存関係グラフを構築できるか？
• RQ5 条件付き独立性の帰無仮説下で、検定統計量の理論的収束速度と漸近的性質は何か？

主な発見

• 提案された検定は、要因の数が標本サイズとともに発散する場合でも、漸近的に第一種誤り率を適切に制御する。
• 検定統計量は $ O_p(n^{-1/2} a_n \text{ or } a_n^2 \text{ with } a_n \to 0) $ の速度で収束し、帰無仮説下での一貫性を保証する。
• 本手法は計算が効率的であり、従来の非パラメトリック検定が要請する複雑なブートストラップ手順を回避する。
• 数値実験と実データ解析により、既存手法と比較して条件付き依存関係の検出において優れた性能を示す。
• 特に要因の数が多い場合に、本手法は高い検出力を持つ。
• 理論的結果により、帰無仮説下で検定統計量の漸近的分布が良好に近似されることを確認し、有効な推論が可能であることが裏付けられた。