[논문 리뷰] Repro Samples Method for Finite- and Large-Sample Inferences

Minge Xie, Peng Wang|arXiv (Cornell University)|2022. 06. 13.

Bayesian Methods and Mixture Models인용 수 6

한 줄 요약

이 논문은 우도 함수가 필요 없고, 유한표본 및 대표표본에서의 추론 프레임워크인 '재생 표본 방법(repro samples method)'을 소개한다. 이 방법은 데이터 생성 메커니즘을 모방하여 인위적 표본을 생성함으로써 불확실성을 정량화하고 타당한 신뢰구간을 구성한다. 중심극한정리에 의존하지 않아도 보장되는 빈도주의적 커버리지(coverage)를 달성하여 이산적, 비수치적, 복잡한 매개변수에 대해 정확한 추론이 가능하다. 특히 정규혼합모형에서 성분의 수를 추정하는 과도한 문제에 특히 효과적이다.

ABSTRACT

This article presents a novel, general, and effective simulation-inspired approach, called {\it repro samples method}, to conduct statistical inference. The approach studies the performance of artificial samples, referred to as {\it repro samples}, obtained by mimicking the true observed sample to achieve uncertainty quantification and construct confidence sets for parameters of interest with guaranteed coverage rates. Both exact and asymptotic inferences are developed. An attractive feature of the general framework developed is that it does not rely on the large sample central limit theorem and is likelihood-free. As such, it is thus effective for complicated inference problems which we can not solve using the large sample central limit theorem. The proposed method is applicable to a wide range of problems, including many open questions where solutions were previously unavailable, for example, those involving discrete or non-numerical parameters. To reduce the large computational cost of such inference problems, we develop a unique matching scheme to obtain a data-driven candidate set. Moreover, we show the advantages of the proposed framework over the classical Neyman-Pearson framework. We demonstrate the effectiveness of the proposed approach on various models throughout the paper and provide a case study that addresses an open inference question on how to quantify the uncertainty for the unknown number of components in a normal mixture model. To evaluate the empirical performance of our repro samples method, we conduct simulations and study real data examples with comparisons to existing approaches. Although the development pertains to the settings where the large sample central limit theorem does not apply, it also has direct extensions to the cases where the central limit theorem does hold.

연구 동기 및 목표

• 중앙극한정리가 적용되지 않는 복잡한 통계 문제에 대해 정확한 유한표본 추론 방법의 부족을 해결한다.
• 우도 함수나 대표표본 근사가 필요 없는 일반 목적의 추론 프레임워크를 개발한다.
• 기존 방법이 실패하는 이산적 또는 비수치적 매개변수(예: 혼합모형의 성분 수)에 대해 타당한 신뢰구간을 제공한다.
• 통계적 타당성을 유지하면서도 전체 조합을 전수 검색하지 않는 데이터 기반 후보 매개변수 집합 매칭 기법을 통해 계산 비용을 감소시킨다.
• 우여곡절 매개변수, 고차원 선택 불확실성, 비정규 매개변수 공간을 포함한 모델로의 통계적 추론 범위를 확장한다.

제안 방법

• 데이터 생성 메커니즘 $\bm{Y} = G(\theta, \bm{U})$ 에서 시뮬레이션을 통해 인위적 표본(이하 '재생 표본')을 생성한다. 여기서 $\theta$ 는 매개변수이고 $\bm{U}$ 는 균일분포 랜덤 벡터이다.
• 관측된 데이터 $\bm{y}_{\text{obs}} = G(\theta_0, \bm{u}^{\text{rel}})$ 를 기준으로, 동일한 $\bm{u}^*$ 를 사용할 때 관측 데이터와 일치하는 재생 표본을 생성하는 매개변수 $\theta$ 의 집합을 정의한다.
• 관측된 데이터 $\bm{y}_{\text{obs}}$ 가 매개변수 $\theta$ 에 대한 재생 표본의 경험적 분위수 범위 내에 포함되는 매개변수 $\theta$ 를 식별함으로써, 보장된 커버리지가 보장되는 신뢰구간을 구성한다.
• 전체 매개변수 조합을 전수 검색하지 않고도 계산 비용을 크게 줄일 수 있도록 데이터 기반 후보 매개변수 집합 매칭 기법을 구현한다.
• 알고리즘 모델 구조(1)와 그 확장(9)을 활용하여 미분방정식 또는 시뮬레이션 기반 메커니즘으로 정의된 복잡한 모델을 다룰 수 있다.
• 진짜 매개변수가 경계에 있거나 이산적일 경우에도 보장되는 표본 수에 관계없이 빈도주의적 커버리지 보장을 통해 이론적 타당성을 확보한다.

실험 결과

연구 질문

• RQ1 중앙극한정리가 적용되지 않을 경우, 어떻게 타당한 신뢰구간을 구성할 수 있는가?
• RQ2 이산적 또는 비수치적 매개변수에 대해 정확한 유한표본 커버리지를 보장하는 우도 함수가 필요 없는 추론 프레임워크를 개발할 수 있는가?
• RQ3 우여곡절 매개변수와 알려지지 않은 성분 구조를 가진 고차원 또는 복잡한 모델을 효율적으로 다룰 수 있는가?
• RQ4 재생 표본 방법은 전통적인 빈도주의, 베이지안, 피듀셜 추론 프레임워크와 어떤 관계가 있는가?
• RQ5 이 방법은 고차원 설정에서 선택 후 추론 및 모형 선택 문제로까지 확장될 수 있는가?

주요 결과

• 재생 표본 방법은 중심극한정리가 실패하는 경우에도, 표본 수가 유한하거나 크더라도 보장된 빈도주의적 커버리지를 갖는다.
• 기존 방법들(점추정, 가설검정, 베이지안 신뢰구간 포함)은 진짜 성분 수 $\tau_0$ 를 자주 놓치며, 일반적으로 더 작은 값으로 편향된다. 반면 재생 표본 방법은 이 값을 정확히 회복한다.
• 동일한 문제 설정에서 베이지안 방법은 반복 커버리지 비율이 낮고 $\tau$ 및 $\bm{\mu}, \bm{\sigma}$ 에 대한 사전 분포 선택에 매우 민감한 반면, 재생 표본 방법은 이러한 문제를 피한다.
• 데이터 기반 매칭 기법은 통계적 타당성을 유지하면서도 계산 비용을 크게 줄여주어 고차원 및 복잡한 모델에 대한 실용적 적용을 가능하게 한다.
• 특히 이산적 또는 비정규 매개변수를 가진 설정에서, 재생 표본 방법은 전통적인 네이만-피어슨 검정보다 커버리지와 내성에 뛰어나다.
• 이 프레임워크는 이산 매개변수, 우여곡절 매개변수, 시뮬레이션 기반 모델을 포함한 문제에 널리 적용 가능하며, 선택 후 추론 및 네트워크 구조 식별 등에도 유용하다.