[논문 리뷰] Why the Decision Theoretic Perspective Misrepresents Frequentist Inference: 'Nuts and Bolts' vs. Learning from Data

Aris Spanos|arXiv (Cornell University)|2012. 11. 03.

Bayesian Modeling and Causal Inference참고 문헌 26인용 수 4

한 줄 요약

이 논문은 빈도주의 추론을 '모든 θ ∈ Θ에 대해'라는 전칭 기호를 중심으로 프레임워크화함으로써 빈도주의 추론을 잘못 묘사하고 있다고 주장한다. 이는 진정한 매개변수 θ∗에 대해 학습하는 것을 목표로 하는 빈도주의의 목적과 충돌한다. 손실 함수와 적합성은 결정 이론의 핵심 요소이지만, 이는 빈도주의 추론보다 베이지안 추론과 더 잘 맞는다. 빈도주의 추론은 오히려 진정한 θ∗의 존재를 중심으로 사실적이고 가설적 추론에 기반한다.

ABSTRACT

The primary objective of this paper is to revisit and make a case for the merits of R.A. Fisher's objections to the decision-theoretic framing of frequentist inference. It is argued that this framing is congruent with the Bayesian but incongruent with the frequentist inference. It provides the Bayesian approach with a theory of optimal inference, but it misrepresents the theory of optimal frequentist inference by framing inferences solely in terms of the universal quantifier `for all values of theta in the parameter space'. This framing is at odds with the primary objective of model-based frequentist inference, which is to learn from data about the true value of theta (unknown parameter(s)); the one that gave rise to the particular data. The frequentist approach relies on factual (estimation, prediction), as well as hypothetical (testing) reasoning whose primary aim is to learn from data about the true theta. The paper calls into question the appropriateness of admissibility and reassesses Stein's paradox as it relates to the capacity of frequentist estimators to pinpoint the true theta. The paper also compares and contrasts loss-based errors with traditional frequentist errors, such as coverage, type I and II; the former are attached to θ, but the latter to the inference procedure itself.

연구 동기 및 목표

• R.A. 페일러의 결정 이론적 프레임워크가 빈도주의 추론에 대해 일관성 없음을 재평가하기 위해.
• 결정 이론적 접근 방식이 베이지안 추론과는 부합되지만, 빈도주의 추론의 핵심 목표와는 부합되지 않음을 보여주기 위해.
• 빈도주의 추론은 모든 θ ∈ Θ에 대해 기대 손실을 최소화하는 것이 아니라, 진정한 매개변수 θ∗에 대해 데이터로부터 학습하는 데 초점이 맞춰져 있음을 주장하기 위해.
• 적합성과 스텐의 역설이 빈도주의 맥락에서 왜 관련성이 없는지 도전하며, 일致성과 유한 표본 효율성과 같은 기준을 더 적절한 기준으로 제안하기 위해.
• 손실 기반 오차(θ에 부착됨)와 전통적인 빈도주의 오차 확률(추론 절차에 부착됨)을 대비하기 위해.

제안 방법

• 결정 이론 프레임워크의 세 핵심 구성요소인 통계 모델 Mθ(x), 결정 공간 D, 손실 함수 L(θ, d(x))를 분석한다.
• 결정 이론에서 사용하는 전칭 기호 ∀θ ∈ Θ와 빈도주의 추론이 진리의 매개변수 θ∗의 존재를 기반으로 하는 존재 기호 ∃θ∗ ∈ Θ 사이의 대비를 제시한다.
• 월드(1939)의 원래 손실 함수가 θ∗에 의존하며, θ∗가 알려져 있지 않기 때문에 실무에서 비작동적임을 보여준다.
• 편향, MSE, 커버리지, 제1종/제2종 오류 등 전통적인 빈도주의 오차 측정치와 손실 기반 위험 함수를 비교하며, 그 첨부 방식의 차이(θ에 대한 손실 vs. 추론 절차에 대한 오차)를 강조한다.
• 스텐의 역설을 재평가하여 제임스-스타인 추정량이 전체 위험을 낮추기 위해 θ∗를 정확히 특정하는 능력을 약화시킴으로써 위험을 줄임을 보여준다.
• 적합성은 빈도주의 추정량에 대해 관련 없는 최소 기준이 되지 못하며, 일관성과 유한 표본 효율성과 같은 기준이 더 적절한 기준이 되어야 한다고 주장한다.

실험 결과

연구 질문

• RQ1 왜 결정 이론적 프레임워크, 특히 ∀θ ∈ Θ의 사용이 빈도주의 추론의 주요 목표와 부합하지 않는가?
• RQ2 결정 이론적 접근 방식이 손실 함수와 적합성에 의존함으로써 빈도주의 추정 및 검정의 목표를 어떻게 잘못 묘사하는가?
• RQ3 손실 기반 오차는 어떤 방식으로 전통적인 빈도주의 오차 확률(편향, MSE, 커버리지, 제1종/제2종 오류)과 본질적으로 다를까?
• RQ4 스텐의 역설이 빈도주의 추론에 문제가 되는 이유는 무엇인가? 왜냐하면 θ∗를 정확히 특정하는 능력을 희생하여 전체 위험을 낮추기 때문이다.
• RQ5 전체 θ ∈ Θ에 대해 기대 손실을 중심으로 추론를 프레임워크화하는 것과 진정한 θ∗에 대한 사실적 추론을 중심으로 하는 것의 차이는 무엇인가?

주요 결과

• 결정 이론적 프레임워크는 둘 다 모든 θ ∈ Θ에 대해 기대 손실을 최소화하므로 베이지안 추론과 부합되지만, 진정한 θ∗에 대해 학습하는 것을 목표로 하는 빈도주의 추론을 잘못 묘사한다.
• 빈도주의 추론은 사실적 추론(추정, 예측)과 가설적 추론(검정)에 기반하며, 둘 다 진정한 θ∗의 존재를 중심으로 하며, 전칭 기호 ∀θ ∈ Θ가 아니라 된다.
• 전통적인 빈도주의 오차 측정치—편향, MSE, 커버리지, 제1종 및 제2종 오류—는 특정 θ 값에 부착되는 것이 아니라 추론 절차 자체에 부착되며, 손실 기반 위험과는 다르다.
• 위험 함수 R(θ, θ̂)는 각 θ ∈ Θ에 대해 기대 손실을 할당하며, 이는 빈도주의 목표와 부합하지 않는다. 왜냐하면 θ∗를 정확히 타겟팅하는 절차를 처벌하기 때문이다.
• 적합성은 결정 이론의 기준으로서 빈도주의 추정량에 대해 관련 없는 최소 기준이 되지 못한다. 왜냐하면 손실 함수가 데이터 외부의 정보에 의존하기 때문이다.
• 제임스-스타인 추정량은 θ∗를 정확히 특정하는 능력을 약화시킴으로써 전체 위험을 낮추는 방식으로 더 낮은 전체 위험을 달성한다. 이는 빈도주의 추론의 주요 목표를 뒤흔든다.