[論文レビュー] Distance Metrics for Measuring Joint Dependence with Application to Causal Inference

Shubhadeep Chakraborty, Xianyang Zhang|arXiv (Cornell University)|Nov 25, 2017

Bayesian Modeling and Causal Inference参考文献 28被引用数 3

ひとこと要約

本稿では、d ≥ 2 個の確率的ベクトル間の結合的依存性を測定するための高次距離分散および結合距離共分散（JdCov）を導入する。これは距離共分散を一般化し、線形結合による対比較および高次依存項を用いて相互独立性を捉えるものである。この手法により、ブートストラップ補助推論を用いた構造方程式モデルにおける結合的独立性の一貫性のある検定が可能となり、漸近的に有効な標本分布の近似と、シミュレーションおよび実データ研究における強い実効性を示す。

ABSTRACT

Many statistical applications require the quantification of joint dependence among more than two random vectors. In this work, we generalize the notion of distance covariance to quantify joint dependence among d >= 2 random vectors. We introduce the high order distance covariance to measure the so-called Lancaster interaction dependence. The joint distance covariance is then defined as a linear combination of pairwise distance covariances and their higher order counterparts which together completely characterize mutual independence. We further introduce some related concepts including the distance cumulant, distance characteristic function, and rank-based distance covariance. Empirical estimators are constructed based on certain Euclidean distances between sample elements. We study the large sample properties of the estimators and propose a bootstrap procedure to approximate their sampling distributions. The asymptotic validity of the bootstrap procedure is justified under both the null and alternative hypotheses. The new metrics are employed to perform model selection in causal inference, which is based on the joint independence testing of the residuals from the fitted structural equation models. The effectiveness of the method is illustrated via both simulated and real datasets.

研究の動機と目的

• 距離共分散を d ≥ 2 個の確率的ベクトル間の結合的依存性、特に対比較依存性を超えた測定に一般化すること。
• d 個の確率的ベクトル間の完全な相互独立性を特徴付けるメトリックを構築すること、高次相互作用効果を含むこと。
• 残差の独立性検定に基づく、頑健で非パラメトリックな因果推論におけるモデル選択手法を提供すること。
• 提案された依存度測度に関する漸近理論およびブートストラップ手順を確立すること、以て有効な推論を可能とすること。

提案手法

• d 個の確率的ベクトル間のランケスターアイテレーション依存性を測定するための高次距離分散を提案する。
• 結合距離共分散（JdCov）を、対比較および高次距離共分散の線形結合として定義し、JdCov = 0 がかつてすべての d 個のベクトルが相互に独立である場合に限ることを保証する。
• 標本点間のユークリッド距離に基づく U 統計量および V 統計量を用いて、実証的推定器を構築する。
• 独立性の同等の特徴付けとして、距離積率および距離特性関数を導入する。
• JdCov の標本分布を、帰無仮説および対立仮説の下で近似するためのブートストラップ手順を開発する。
• 因果構造学習のためのモデル選択において、構造方程式モデルの残差の結合的独立性を検定するためにこの手法を適用する。

実験結果

リサーチクエスチョン

• RQ1 距離共分散は、d ≥ 2 個の確率的ベクトル間の結合的依存性、特に高次相互作用効果を含めて一般化可能か？
• RQ2 提案された結合距離共分散（JdCov）は、d 個の確率的ベクトル間の完全な相互独立性を完全に特徴付けるか？
• RQ3 ブートストラップ手順は、帰無仮説および対立仮説の下で、JdCov の標本分布を漸近的に有効に近似できるか？
• RQ4 JdCov は高次元設定において結合的依存性を検出するのにどの程度有効か、また因果構造学習のためのモデル選択においてどの程度効果的か？

主な発見

• 提案された結合距離共分散（JdCov）は、d 個の確率的ベクトルが相互に独立である場合に限りゼロとなるため、結合的独立性の完全な特徴付けが保証される。
• n = 100 および d = 10 のシミュレーションにおいて、ブートストラップ補助検定は例 5.2 で依存性検出に 100% の検出力、例 5.1 で 98.5% の検出力を示した。
• d = 3 および n = 50 の場合、例 5.3 で 98.5% の実効検出力を達成し、低サンプルサイズでも強力な検出能力を示した。
• ブートストラップ手順は漸近的に有効であり、実効サイズが名目水準に近く（例：表 6 における 10% および 5% の名目水準でそれぞれ 10.3% および 5.3%）、有効性が裏付けられた。
• 非単調的および高次相互作用を含む複雑な依存構造の検出においても高い検出力を示し、古典的な順位ベースの測度を上回った。
• d = 5 および n = 200 の例 5.4 において、10% の有意水準で 80.4% の検出力を維持し、大規模次元でも頑健であることを確認した。