[논문 리뷰] Measuring and Controlling Bias for Some Bayesian Inferences and the Relation to Frequentist Criteria

Michael Evans, Yang Guo|arXiv (Cornell University)|2019. 03. 05.

Bayesian Modeling and Causal Inference참고 문헌 8인용 수 5

한 줄 요약

이 논문은 상대적 믿음 비율을 통해 반대 편향과 지지 편향을 정의함으로써 베이지안 추론에서의 편향을 측정하고 제어하기 위한 원칙적인 접근을 제안한다. 이는 베이지안 증거와 충분통계량 성질 사이의 공식적 연결을 수립하며, 사전 분포 선택이 아닌 데이터 수집을 통한 편향 제어가 신뢰할 수 있는 추론을 보장함으로써 베이지안과 충분통계량 프레임워크 간의 갈등을 해결한다.

ABSTRACT

A common concern with Bayesian methodology in scientific contexts is that inferences can be heavily influenced by subjective biases. As presented here, there are two types of bias for some quantity of interest: bias against and bias in favor. Based upon the principle of evidence, it is shown how to measure and control these biases for both hypothesis assessment and estimation problems. Optimality results are established for the principle of evidence as the basis of the approach to these problems. A close relationship is established between measuring bias in Bayesian inferences and frequentist properties that hold for any proper prior. This leads to a possible resolution to an apparent conflict between these approaches to statistical reasoning. Frequentism is seen as establishing a figure of merit for a statistical study, while Bayesianism plays the key role in determining inferences based upon statistical evidence.

연구 동기 및 목표

• 주관적인 사전 분포에 의해 베이지안 추론이 과도하게 영향을 받는다는 일반적인 비판을 해결하기 위해 편향을 공식적으로 정량화하고 제어하고자 한다.
• 상대적 믿음 비율을 통한 증거 원리가 가설 검정을 넘어서 추정 및 예측 문제로 확장될 수 있도록 하고자 한다.
• 충분통계량이 연구 설계에서 중요한 역할을 하여 낮은 편향을 보장함으로써, 충분통계량이 연구 설계에 핵심적임을 보여주고자 한다. 반면, 베이지안 추론은 관측된 증거에 기반한다.
• 베이지안과 충분통계량 접근 간의 명백한 갈등을 해결하기 위해 두 접근이 통계적 추론에서 상호 보완적인 역할을 한다는 점을 보여주고자 한다.

제안 방법

• 증거 원리 사용: 매개변수 값에 대한 증거는 그 사후 확률이 사전 확률을 초월할 때 발생한다.
• 상대적 믿음 비율(사후-사전 올스)을 사용하여 반대 편향과 지지 편향을 정의하며, 이는 증거 강도를 정량화한다.
• 다양한 데이터 생성 메커니즘 하에서 편향 수준을 추정하기 위해 조건부 사전 예측 분포에서 몬테카를로 샘플링을 수행한다.
• 위치 모형과 회귀 모형에 이 방법을 적용하여 충분통계량과 예측 분포의 시뮬레이션을 통해 편향을 계산한다.
• 공액 사전 분포 하에서 향후 관측값의 예측 분포에 대해 닫힌 형태의 표현식을 유도함으로써 효율적인 편향 계산을 가능하게 한다.
• 이 접근법의 최적성 결과를 수립하여, 임의의 올바른 사전 분포 하에서도 바람직한 충분통계량 성질을 만족함을 보여준다.

실험 결과

연구 질문

• RQ1 주관적인 사전 분포가 존재할 경우, 베이지안 추론에서의 편향을 어떻게 공식적으로 측정하고 제어할 수 있는가?
• RQ2 상대적 믿음 비율을 통한 베이지안 증거와 커버리지 및 오류율과 같은 충분통계량 성질 사이의 관계는 무엇인가?
• RQ3 증거 원리가 가설 검정을 넘어서 추정 및 예측 문제로 의미 있게 확장될 수 있는가?
• RQ4 제프레즈-린들리 역설은 왜 발생하는가? 그리고 편향 측정은 이를 어떻게 해결하는가?
• RQ5 베이지안 추론의 증거 기반 기초를 훼손하지 않으면서 충분통계량 기준을 어떻게 활용하여 베이지안 추론을 검증할 수 있는가?

주요 결과

• 반대 편향과 지지 편향은 상대적 믿음 비율을 사용하여 공식적으로 정의되고 측정되며, 이는 증거 품질에 대한 정량적 평가를 제공한다.
• 제프레즈-린들리 역설은 희박한 사전 분포를 사용할 경우 높은 지지 편향이 발생함으로써 발생하는 것으로 설명되며, 베이지안 추론의 결함이 아니라는 점을 밝힌다.
• 잘 校정된 p-값은 표본 크기 또는 사전 분포의 희박성 감소 시에만 증거 원리에 부합한다.
• 충분통계량 성질—예를 들어 커버리지 및 오류율—는 임의의 올바른 사전 분포 하에서도 성립하며, 충분통계량 설계와 베이지안 추론 사이에 강력한 연결 고리를 확립한다.
• 편향 제어는 사전 분포 수정이 아닌 데이터 수집을 통해 달성되며, 주관적인 사전 분포 추출의 무결성을 유지한다.
• 이 프레임워크는 베이지안과 충분통계량 추론을 통합한다: 충분통계량은 연구 설계와 편향 제어를 지배하며, 베이지안 추론은 관측된 데이터의 증거에 기반한다.