[논문 리뷰] A Projection Based Conditional Dependence Measure with Applications to High-dimensional Undirected Graphical Models

Jianqing Fan, Yang Feng외 1명|arXiv (Cornell University)|2015. 01. 07.

Advanced Statistical Methods and Models참고 문헌 56인용 수 9

한 줄 요약

이 논문은 인자 모델 프레임워크 하에서 고차원 무향 그래픽 모델에 대한 투영 기반 조건부 의존도 측정법을 제안한다. 비모수 회귀에서 잔차를 추정하고, 거리 공분산 검정을 적용함으로써, 유의수준 오류 제어가 점점 더 정확해지고 계산이 효율적이며, 고차원 인자에서도 성능이 뛰어나, 기존의 비모수 검정보다 확장성과 검정력에서 뛰어나다.

ABSTRACT

Measuring conditional dependence is an important topic in statistics with broad applications including graphical models. Under a factor model setting, a new conditional dependence measure based on projection is proposed. The corresponding conditional independence test is developed with the asymptotic null distribution unveiled where the number of factors could be high-dimensional. It is also shown that the new test has control over the asymptotic significance level and can be calculated efficiently. A generic method for building dependency graphs without Gaussian assumption using the new test is elaborated. Numerical results and real data analysis show the superiority of the new method.

연구 동기 및 목표

• 잠재 인자의 수가 발산할 수 있는 고차원 데이터에 대해 계산이 효율적이고 점점 더 정확한 조건부 이상성 검정을 개발하는 것.
• 기존의 비모수 조건부 이상성 검정의 한계를 해결하는 것 — 고차원에서 계산 비용이 높고 부트스트랩 절차가 복잡하다는 점.
• 다변수 정규성 가정 없이 고차원 환경에서 의존성 그래프를 구축할 수 있도록 하는 것.
• 유사한 조건 하에서 유의수준 오류 제어 및 수렴 속도에 대한 이론적 보장을 확립하는 것.

제안 방법

• 두 단계 절차를 제안: 첫째, 공통 인자에 대한 변수의 비모수 회귀에서 잔차를 추정한다.
• 둘째, 추정된 잔차에 대해 거리 공분산 기반 검정을 적용하여 조건부 이상성을 평가한다.
• 인자 모델의 구조를 활용하여 차원을 감소시키고 계산 효율성을 향상시키기 위해 투영 기반 검정 통계량을 사용한다.
• 인자의 수가 표본 크기와 함께 증가할 수 있다는 가정 하에 검정 통계량의 점점 더 정확한 귀무분포를 유도한다.
• 오차 항과 관측된 인자 간의 독립성 등 유사한 조건 하에서 검정의 일致성을 확립한다.
• 조건부 이상성 검정에 기반한 일반적인 그래프 구축 알고리즘을 사용하여 다변수 정규성 가정 없이 무향 의존성 그래프를 구성한다.

실험 결과

연구 질문

• RQ1 잠재 인자의 수가 발산할 수 있는 고차원 데이터에 대해 계산이 효율적이고 점점 더 정확한 조건부 이상성 검정을 개발할 수 있는가?
• RQ2 표본 크기와 함께 인자의 수가 증가할 때, 제안된 투영 기반 검정이 점점 더 정확한 유의수준 오류율 제어를 유지하는가?
• RQ3 기존의 비모수 조건부 이상성 검정과 비교할 때, 제안된 방법의 검정력과 계산 확장성은 어떻게 되는가?
• RQ4 이 방법을 사용하여 다변수 정규성 가정 없이도 신뢰할 수 있는 의존성 그래프를 구축할 수 있는가?
• RQ5 조건부 이상성의 귀무가설 하에서 검정 통계량의 이론적 수렴 속도와 점점 더 정확한 성질은 무엇인가?

주요 결과

• 제안된 검정은 인자의 수가 표본 크기와 함께 발산할 경우에도 점점 더 정확한 유의수준 오류 제어를 달성한다.
• 검정 통계량은 $ O_p(n^{-1/2} a_n ext{ or } a_n^2 ext{ with } a_n o 0) $ 의 속도로 수렴하여 귀무가설 하에서 일致성을 확보한다.
• 이 방법은 계산이 효율적이며, 이전의 비모수 검정에서 요구하는 복잡한 부트스트랩 절차를 피한다.
• 수치적 연구와 실데이터 분석을 통해 기존 방법보다 조건부 의존성을 더 잘 탐지하는 데 뛰어난 성능을 보였다.
• 특히 인자의 수가 클 경우 고차원 환경에서 높은 검정력을 유지한다.
• 이론적 결과는 귀무가설 하에서 검정 통계량의 점점 더 정확한 분포가 잘 근사됨을 확인하여 타당한 추론이 가능함을 보여준다.