[논문 리뷰] Local and Global Inference for High Dimensional Nonparanormal Graphical Models

Quanquan Gu, Yuan Cao외 2명|arXiv (Cornell University)|2015. 02. 09.

Statistical Methods and Inference참고 문헌 47인용 수 21

한 줄 요약

이 논문은 고차원 비정규 그래픽 모델에서 국소적 및 전역적 추론을 위한 통합 프레임워크를 제안한다. 이는 의사우도 접근법과 새로운 U통계량 다중부트스트랩을 사용하며, 조정 매개변수 없이 단일 간선에 대한 가설 검정을 가능하게 하고, 가우시안 또는 서브가우시안 가정 없이 신뢰 부분그래프를 구성한다. 약간의 규칙성 조건 하에 점점 더 유효한 커버리지 성능을 달성한다.

ABSTRACT

This paper proposes a unified framework to quantify local and global inferential uncertainty for high dimensional nonparanormal graphical models. In particular, we consider the problems of testing the presence of a single edge and constructing a uniform confidence subgraph. Due to the presence of unknown marginal transformations, we propose a pseudo likelihood based inferential approach. In sharp contrast to the existing high dimensional score test method, our method is free of tuning parameters given an initial estimator, and extends the scope of the existing likelihood based inferential framework. Furthermore, we propose a U-statistic multiplier bootstrap method to construct the confidence subgraph. We show that the constructed subgraph is contained in the true graph with probability greater than a given nominal level. Compared with existing methods for constructing confidence subgraphs, our method does not rely on Gaussian or sub-Gaussian assumptions. The theoretical properties of the proposed inferential methods are verified by thorough numerical experiments and real data analysis.

연구 동기 및 목표

• 고차원 비정규 그래픽 모델에 대한 통합 추론 프레임워크를 개발하여 국소적 및 전역적 불확실성을 정량화하는 것.
• 조정 매개변수 없이 알려지지 않은 변환 함수 {fj}를 제거하기 위해 의사우도 접근법을 제안하여 고차원 그래픽 모델에서의 불확실성 문제를 해결하는 것.
• 가우시안 또는 서브가우시안 가정 없이도 주어진 명목 수준에서 진정한 그래프를 균일하게 커버하는 신뢰 부분그래프를 구성하는 것.
• 기존의 우도 기반 추론 프레임워크를 비정규 모델로 확장하여 고차원에서의 계산적 및 이론적 장벽을 극복하는 것.

제안 방법

• 알려지지 않은 변환 함수 {fj}를 제거하기 위해 조정 매개변수 없이 의사우도 접근법을 제안한다.
• 유의수준 제어와 국소적 검정력 보장을 보장하는 단일 간선 가설 검정(H0: Θjk = 0)을 위한 의사스코어 검정을 개발한다.
• 고차원 U통계량에서 유도된 검정통계량의 분포를 근사하기 위해 U통계량 다중부트스트랩 방법을 제안한다.
• 의사우도에서 유도된 의존성構조를 다루기 위해 U통계량의 Hoeffding 분해의 주요 항에 대해 다중부트스트랩을 적용한다.
• 부트스트랩을 사용하여 P(bG ⊆ G*) ≥ 1 − α 가 渐近적으로 성립하는 신뢰 부분그래프 bG를 구성한다.
• 횔러의 부등식과 라플라스의 중심극한정리를 사용하여 약한 모멘트 조건 하에서 검정통계량의 점점 더 정규분포가 됨을 증명한다.

실험 결과

연구 질문

• RQ1 고차원 비정규 그래픽 모델에서 조정 매개변수 없이 유효한 국소적 추론(예: 간선 검정)을 수행할 수 있는가?
• RQ2 가우시안 또는 서브가우시안 오차를 가정하지 않고도 주어진 명목 수준에서 진정한 그래프를 균일하게 커버하는 신뢰 부분그래프를 어떻게 구성할 수 있는가?
• RQ3 비정규 모델의 의사우도 프레임워크 하에서 검정통계량의 점점 더 유효한 분포는 무엇인가?
• RQ4 모수 변환 함수가 알려지지 않았고 고차원일 경우 기존의 우도 기반 추론을 비정규 모델로 어떻게 확장할 수 있는가?
• RQ5 의사우도 스코어에서 유도된 고차원 U통계량의 분포를 근사하기 위해 적합한 부트스트랩 방법은 무엇인가?

주요 결과

• 제안된 의사스코어 검정은 약간의 규칙성 조건 하에 점점 더 유효한 유의수준 제어와 비영리 국소적 검정력을 달성한다.
• U통계량 다중부트스트랩 방법은 구성된 신뢰 부분그래프 bG가 P(bG ⊆ G*) ≥ 1 − α 를 점점 더 만족함을 보장한다.
• 초기 추정치가 확보된 이후 조정 매개변수가 없는 것으로, Dantzig 선택기 기반 접근법의 계산 불가능성 문제를 해결한다.
• 이론적 보장은 서브가우시안 또는 가우시안 꼬리 조건 없이도 모멘트와 희박성 조건만으로 확립된다.
• 수치 실험과 실제 데이터 분석을 통해 제안된 추론 프레임워크의 강건성과 유효성을 확인한다.
• 이 방법은 우도 기반 추론의 범위를 비정규 모델로 확장하여 고차원 의존성 구조에서의 불확실성 정량화를 위한 새로운 도구를 제공한다.