[論文レビュー] A Distribution Free Conditional Independence Test with Applications to Causal Discovery

Zhanrui Cai, Runze Li+1 more|arXiv (Cornell University)|May 17, 2021

Bayesian Modeling and Causal Inference参考文献 26被引用数 16

ひとこと要約

本稿では、ローゼンブラット変換を用いて変数を変換することで、条件付き独立性を相互独立性に変換する分布自由な条件付き独立性検定を提案する。これにより、0から1の範囲をとり、単調変換に対して不変である、頑健で計算が高速なインデックスが可能になる。この手法は、多様なデータタイプにおいて高い検出力と型I誤りの制御を達成し、因果発見のシミュレーションにおいて既存の手法を上回る性能を示す。

ABSTRACT

This paper is concerned with test of the conditional independence. We first establish an equivalence between the conditional independence and the mutual independence. Based on the equivalence, we propose an index to measure the conditional dependence by quantifying the mutual dependence among the transformed variables. The proposed index has several appealing properties. (a) It is distribution free since the limiting null distribution of the proposed index does not depend on the population distributions of the data. Hence the critical values can be tabulated by simulations. (b) The proposed index ranges from zero to one, and equals zero if and only if the conditional independence holds. Thus, it has nontrivial power under the alternative hypothesis. (c) It is robust to outliers and heavy-tailed data since it is invariant to conditional strictly monotone transformations. (d) It has low computational cost since it incorporates a simple closed-form expression and can be implemented in quadratic time. (e) It is insensitive to tuning parameters involved in the calculation of the proposed index. (f) The new index is applicable for multivariate random vectors as well as for discrete data. All these properties enable us to use the new index as statistical inference tools for various data. The effectiveness of the method is illustrated through extensive simulations and a real application on causal discovery.

研究の動機と目的

• 非正規性や非線形依存性に対して頑健な条件付き独立性検定の開発。
• 漸近的分布やブートストラップリサンプリングに依存する既存の手法の限界を克服し、計算コストの高い手法を回避すること。
• 信頼性の高い臨界値表作成が可能な、分布自由な帰無分布を持つ検定の構築。
• 連続的および離散的多変量データに適用可能な検定の実現。
• モデルの誤指定や重い尾を持つデータ下でも検出力と頑健性を向上させること。

提案手法

• 本手法は、ローゼンブラット変換を用いて、条件付き独立性 $X \perp\!\!\!\perp Y \mid Z$ を変換変数 $U = F_{X|Z}(X|Z)$, $V = F_{Y|Z}(Y|Z)$, $W = F_Z(Z)$ 間の相互独立性に変換する。
• $U$, $V$, $W$ 間の相互依存度を測る新しいインデックス $\rho$ を提案し、閉形式で表現可能であり、対称的かつ厳密に単調変換に対して不変である。
• インデックス $\rho$ は0から1の範囲をとり、$U$, $V$, $W$ が相互に独立である場合にかつその場合にのみ0に等しくなる。これにより、帰無仮説下での正確なサイズ制御が保証される。
• 検定統計量は帰無仮説下で分布フリーであるため、ブートストラップを用いずにシミュレーションにより事前に臨界値を表形式で作成可能である。
• 本手法は計算が高速であり、$O(n^2)$ 時間で動作し、チューニングパラメータに敏感でない。
• 同じ変換とインデックスフレームワークを用いて、多変量および離散確率変数ベクトルへも拡張可能である。

実験結果

リサーチクエスチョン

• RQ1 漸近的近似やブートストラップに依存せず、真に分布フリーな条件付き独立性検定を構築できるか？
• RQ2 単調変換に対して不変であり、外れ値に対して頑健な方法で、変換された変数間の相互依存度をどのように測定できるか？
• RQ3 0から1の範囲をとり、かつ条件付き独立性の下で正確に0に等しくなるような単一のインデックスを設計できるか？
• RQ4 提案手法は、非正規、重い尾、または離散的データ下でも高い検出力と型I誤りの制御を維持するか？
• RQ5 部分相関、KCI、CMIといった既存手法と比較して、因果発見タスクにおいてどのように性能を発揮するか？

主な発見

• 正規誤差下では、サンプルサイズ $n=300$ 時に真陽性率が78.9%に達し、KCI（63.4%）やCMI（59.0%）を顕著に上回る。
• 一様誤差下では、$n=300$ 時に真陽性率が73.6%に達し、KCI（56.4%）やCMI（63.3%）を上回る。
• 偽陽性率は安定しており、サンプルサイズが増加するにつれて0.113から0.103にわずかに低下し、型I誤りの制御が良好であることが示された。
• 本手法は分布の誤指定に対しても頑健であり、正規分布および一様分布の両方の誤差分布下でも高い性能を維持する。
• 計算が高速であり、$O(n^2)$ 時間で動作し、チューニングパラメータや複雑なバイアス補正を必要としない。
• 条件付き独立性下ではインデックス $\rho$ が正確に0に等しくなり、0から1の範囲をとり、条件付き依存度の明確で解釈可能な測度を提供する。