[논문 리뷰] Accounting for sample selection in Bayesian analyses

S. R. Hinton, Alex Kim외 1명|arXiv (Cornell University)|2017. 06. 12.

Statistical Methods and Bayesian Inference참고 문헌 2인용 수 4

한 줄 요약

이 논문은 분석에서의 표본 선택 편향을 수정하기 위한 베이지안 프레임워크를 제시한다. 선택 효율성을 분석적 근사와 몬테카를로 적분을 사용해 우도 함수에 통합함으로써, 잘린 또는 편향된 데이터(예: 초신성 우주론에서의 데이터)의 경우 정확한 추론을 가능하게 한다. 시뮬레이션된 선택 확률에 기반해 관측 데이터를 재가중함으로써, 완전한 해석적 해가 필요 없이도 매개변수 추정의 정확도를 크게 향상시킨다.

ABSTRACT

Astronomers are often confronted with funky populations and distributions of objects: brighter objects are more likely to be detected; targets are selected based on colour cuts; imperfect classification yields impure samples. Failing to account for these effects leads to biased analyses. In this paper we present a simple overview of a Bayesian consideration of sample selection, giving solutions to both analytically tractable and intractable models. This is accomplished via a combination of analytic approximations and Monte Carlo integration, in which dataset simulation is efficiently used to correct for issues in the observed dataset. This methodology is also applicable for data truncation, such as requiring densities to be strictly positive. Toy models are included for demonstration, along with discussions of numerical considerations and how to optimise for implementation. We provide sample code to demonstrate the techniques. The methods in this paper should be widely applicable in fields beyond astronomy, wherever sample selection effects occur.

연구 동기 및 목표

• 검출 임계값이나 관측 절단 등으로 인해 발생하는 과학적 데이터에서 퍼르지기 쉬운 표본 선택 편향이 매개변수 추정을 왜곡하는 문제를 해결하기 위해.
• 선택 효과가 관측 데이터세트를 왜곡할 때 우도를 수정하기 위한 실용적이고 일반화 가능한 베이지안 방법론을 개발하기 위해.
• 해결이 어려운 선택 모델을 위해 분석적 근사와 몬테카를로 적분을 조합한 계산 효율성이 높은 프레임워크를 제공하기 위해.
• 이론적 모델과 실제 사례(초신성 우주론, 잘린 데이터 포함)에서 이 방법의 효과성을 입증하기 위해.
• 다른 천문학 외 분야에서의 광범위한 채택과 재현 가능성을 위해 오픈소스 코드를 제공하기 위해.

제안 방법

• 관측 데이터와 매개변수에 대한 선택 확률 $ P(S|\text{data}, \theta) $ 를 포함시켜 수정된 우도를 수립함. 이는 데이터와 선택의 결합 확률에서 유도된다.
• 베이즈 정리를 적용해 우도를 $ \mathcal{L} = \frac{P(S|\text{data}, \theta) P(\text{data}|\theta)}{P(S|\theta)} $ 로 재작성함. 분모는 모든 가능한 데이터에 대한 적분이므로 해석적으로 구하기 어려움.
• 몬테카를로 적분을 사용해 해석적으로 구할 수 없는 분모를 근사함. 제안 분포 $ P(D|\theta_{\text{approx}}) $ 에서 표본 $ D_i $ 를 추출한 후, $ \frac{P(S|D_i)}{P(D_i|\theta_{\text{approx}})} $ 를 사용해 재가중함.
• MCMC 동안 반복적으로 선택 확률을 재계산하는 것을 방지하기 위해 사전에 계산된 가중치를 활용함으로써 계산 효율을 크게 향상시킴.
• 관측 수의 거듭제곱을 취할 경우 수치 안정성을 유지하기 위해 로그 공간 계산을 사용함.
• 후행 추정의 정확성과 안정성을 확보하기 위해 $ \log(\mathcal{L}_2) $ 의 분산을 최소화함으로써 정확도를 최적화함.

실험 결과

연구 질문

• RQ1 검출 임계값이나 색상 절단 등의 선택 효과로 인해 관측 데이터가 체계적으로 편향될 경우, 베이지안 추론은 어떻게 수정할 수 있는가?
• RQ2 선택 효과로 인해 해석적 적분이 불가능한 모델에서, 우도를 효율적이고 정확하게 계산하는 방법은 무엇인가?
• RQ3 몬테카를로 적분과 분석적 근사를 어떻게 조합하여 계산 비용이 과도하지 않게 선택 편향을 수정할 수 있는가?
• RQ4 고차원 또는 잘린 매개변수 공간에서 우도 수정을 구현할 때의 수치 최적 실천 방법은 무엇인가?
• RQ5 MCMC 샘플링에서 계산 오버헤드를 최소화하면서도 보정의 정확도를 극대화하는 방법은 무엇인가?

주요 결과

• 이 방법은 해석적으로 풀 수 있는 모델뿐 아니라 해석적으로 풀 수 없는 모델에서도 표본 선택 편향을 성공적으로 보정하며, 난이도 있는 추론에 비해 후행 정확도가 크게 향상됨.
• 사전에 계산된 가중치를 사용한 몬테카를로 적분은 MCMC 동안 선택 확률을 반복 평가하지 않기 때문에 계산 비용을 크게 감소시킴.
• 제안 분포의 분산($ \sigma_{\text{approx}} $)을 과소추정하는 것보다 과대추정하는 것이 더 안전하며, 이는 매개변수 공간의 충분한 커버리지 보장을 위해 유리함.
• $ \frac{P(S|D_i)}{P(D_i|\theta_{\text{approx}})} $ 를 통한 재가중은 매개변수 샘플링 시마다 선택 효율을 재계산할 필요 없이 효율적인 우도 평가를 가능하게 함.
• 로그 공간 계산은 관측 수의 거듭제곱을 취할 경우 특히 수치 안정성을 보장함.
• 이 방법은 천문학 외에도 잘린 또는 캐논된 데이터가 있는 생물학적·물리학적 과학 분야에도 널리 적용 가능함.