[논문 리뷰] Distance Metrics for Measuring Joint Dependence with Application to Causal Inference

Shubhadeep Chakraborty, Xianyang Zhang|arXiv (Cornell University)|2017. 11. 25.

Bayesian Modeling and Causal Inference참고 문헌 28인용 수 3

한 줄 요약

이 논문은 d ≥ 2개의 랜덤 벡터 간의 공동의존성을 측정하기 위해 고차수의 거리 공분산과 공동거리공분산(JdCov)을 도입한다. 이는 거리공분산을 일반화하여 두 개 이상의 변수 간의 상호독립성을 선형 조합 형태의 쌍별 및 고차수 의존성 항을 통해 캡처함으로써, 구조적방정식모형에서 부트스트랩 기반 추론을 통해 공동독립성의 일致한 검정을 가능하게 한다. 이는 점점 더 유효한 표본분포 근사와 강력한 실증적 검정력을 확보하며, 시뮬레이션 및 실제 데이터 연구에서 검증된다.

ABSTRACT

Many statistical applications require the quantification of joint dependence among more than two random vectors. In this work, we generalize the notion of distance covariance to quantify joint dependence among d >= 2 random vectors. We introduce the high order distance covariance to measure the so-called Lancaster interaction dependence. The joint distance covariance is then defined as a linear combination of pairwise distance covariances and their higher order counterparts which together completely characterize mutual independence. We further introduce some related concepts including the distance cumulant, distance characteristic function, and rank-based distance covariance. Empirical estimators are constructed based on certain Euclidean distances between sample elements. We study the large sample properties of the estimators and propose a bootstrap procedure to approximate their sampling distributions. The asymptotic validity of the bootstrap procedure is justified under both the null and alternative hypotheses. The new metrics are employed to perform model selection in causal inference, which is based on the joint independence testing of the residuals from the fitted structural equation models. The effectiveness of the method is illustrated via both simulated and real datasets.

연구 동기 및 목표

• d ≥ 2개의 랜덤 벡터 간의 공동의존성을 쌍별 의존성 이상으로 일반화하여 측정하기 위한 거리공분산의 일반화.
• d개의 랜덤 벡터 간의 상호독립성을 완전히 기술하는 지표 개발, 이는 고차수 상호작용 효과를 포함함.
• 잔차의 독립성 검정에 기반한 인과 추론에서의 모델 선택을 위한 강력한 비모수적 방법 제공.
• 제안된 의존성 지표에 대한 점근적 이론 및 부트스트랩 절차 수립을 통한 타당한 추론 확보

제안 방법

• d개의 랜덤 벡터 간의 랜드스케이트 상호작용 의존성 측정을 위한 고차수 거리공분산 제안.
• 공동거리공분산(JdCov)을 쌍별 및 고차수 거리공분산의 선형 조합으로 정의하여, JdCov = 0이 되는 것은 오직 d개의 벡터가 상호독립일 때에만 성립하도록 보장.
• 표본점 간 유클리드 거리를 기반으로 U-통계량과 V-통계량을 사용한 경험적 추정량 구축.
• 독립성의 등가 기술을 위한 거리모멘트와 거리특성함수 도입.
• 공동거리공분산(JdCov)의 표본분포를 근사하기 위해 근사적으로 타당한 부트스트랩 절차 개발.
• 인과 발견을 위한 구조적방정식모형에서 잔차의 공동독립성 검정에 이 방법 적용.

실험 결과

연구 질문

• RQ1 거리공분산은 d ≥ 2개의 랜덤 벡터 간의 공동의존성, 특히 고차수 상호작용 효과까지 측정할 수 있도록 일반화될 수 있는가?
• RQ2 제안된 공동거리공분산(JdCov)은 d개의 랜덤 벡터 간의 상호독립성을 완전히 기술하는가?
• RQ3 부트스트랩 절차는 귀무가설과 대립가설 하에서 JdCov의 표본분포를 점점 더 타당하게 근사하는가?
• RQ4 JdCov는 고차원 설정에서 공동의존성을 탐지하는 데 얼마나 효과적인가? 그리고 인과적 구조 학습을 위한 모델 선택에 어떻게 기여하는가?

주요 결과

• 제안된 공동거리공분산(JdCov)은 오직 d개의 랜덤 벡터가 상호독립일 때에만 0이 되며, 이는 공동독립성의 완전한 기술을 보장한다.
• n = 100, d = 10인 시뮬레이션에서, 부트스트랩 기반 검정은 5.2번 예제에서 의존성을 탐지하는 데 100%의 검정력을 확보했고, 5.1번 예제에서는 98.5%의 검정력을 보였다.
• d = 3, n = 50인 경우, 5.3번 예제에서 메타적 검정력이 98.5%에 이르렀으며, 낮은 표본 크기에서도 강력한 탐지 능력을 입증했다.
• 부트스트랩 절차는 점점 더 타당한 성질을 보였으며, 실증적 크기는 명목 수준에 가까웠다 (예: 표본 6에서 10% 및 5% 명목 수준에 대해 각각 10.3%와 5.3%).
• 비선형적이고 고차수 상호작용을 포함한 복잡한 의존성 구조를 탐지하는 데 높은 검정력을 보였으며, 전통적인 순위 기반 측정법보다 뛰어난 성능을 보였다.
• d = 5, n = 200인 5.4번 예제에서, 10% 유의수준에서 의존성을 탐지하는 데 80.4%의 검정력을 유지하여, 더 큰 차원에서도 강건성을 입증했다.