[논문 리뷰] A mathematical characterization of confidence as valid belief

Ryan Martin|arXiv (Cornell University)|2017. 07. 03.

Bayesian Modeling and Causal Inference참고 문헌 34인용 수 6

한 줄 요약

이 논문은 추론 모델(IM) 프레임워크 내에서 신뢰구간을 유효한 믿음/가능성 함수로 수학적으로 특성화하며, 모든 명목상의 신뢰영역이 유효한 IM의 가능성 영역에 대응됨을 보여준다. 주요 기여는 표준 포함도 및 호환성 조건을 만족하는 모든 신뢰영역에 대해 그 내부에 포함되는 가능성이 있는 IM이 존재함을 증명하는 완전클래스 정리이다. 이는 확률적 해석에 대한 엄밀하고 직관적인 대안을 제공한다.

ABSTRACT

Confidence is a fundamental concept in statistics, but there is a tendency to misinterpret it as probability. In this paper, I argue that an intuitively and mathematically more appropriate interpretation of confidence is through belief/plausibility functions, in particular, those that satisfy a certain validity property. Given their close connection with confidence, it is natural to ask how a valid belief/plausibility function can be constructed directly. The inferential model (IM) framework provides such a construction, and here I prove a complete-class theorem stating that, for every nominal confidence region, there exists a valid IM whose plausibility regions are contained by the given confidence region. This characterization has implications for statistics understanding and communication, and highlights the importance of belief functions and the IM framework.

연구 동기 및 목표

• 신뢰구간을 해석하는 데 오랫동안 지속된 애매함을 제거하기 위해, 확률적 해석에 대한 수학적으로 엄밀하고 직관적으로 일관된 대안을 제공하는 것.
• 믿음과 가능성 함수—특히 유효한 IM—이 확률 분포보다도 신뢰를 표현하기 위해 더 적합한 수학적 프레임워크임을 보여주는 것.
• 추론 모델 프레임워크를 통해 신뢰영역과 가능성영역 사이의 공식적 연결을 수립하는 것.
• 모든 유효한 신뢰영역이 유효한 IM의 가능성영역으로 표현될 수 있음을 증명함으로써, '가능성 구간'이라는 용어를 신뢰구간의 자연스럽고 직관적인 해석으로 정당화하는 것.
• 확률적 해석으로 인해 오해의 소지가 있는 표현을 믿음 기반의 수학적으로 타당한 프레임워크로 대체함으로써 통계적 소통과 이해를 강화하는 것.

제안 방법

• 논문은 매개변수에 대한 불확실성을 표현하기 위해 무작위 집합과 믿음/가능성 함수를 구성하는 추론 모델(IM) 프레임워크를 사용한다.
• 유효한 IM은 모든 매개변수 값에 대해 명목상 포함도 확률 조건 (1)을 만족하는 가능성 영역을 갖는 것으로 정의된다.
• 핵심 구축은 데이터를 모델 기반 연관성(예: 분포 함수에 대해 $X = F^{-1}(U)$)을 통해 무작위 집합과 연결하는 것이다.
• 모든 진정된 분포에 대해 균일하게 포함도를 보장하기 위해, Dvoretzky–Kiefer–Wolfowitz(DKW) 부등식을 사용하여 경험분포함수의 신뢰밴드를 정의한다.
• 매개변수 값 $F$에 대한 가능성 윤곽은 $\mathsf{pl}_{x}(\{F\}) = 1 - \mathsf{P}_{U}\{S_{\alpha(x,F)}\}$로 계산되며, 몬테카를로 시뮬레이션을 통해 평가된다.
• 완전클래스 정리가 증명된다: 어떤 신뢰영역 $C_\alpha$가 포함도 조건과 약간의 호환성 조건을 만족하면, 그 내부에 포함되는 가능성 영역을 갖는 유효한 IM이 존재한다.

실험 결과

연구 질문

• RQ1 확률 분포 대신 믿음/가능성 함수를 사용하여 신뢰구간을 수학적으로 엄밀하게 특성화할 수 있는가?
• RQ2 믿음 함수가 유효한 신뢰영역에 대응하기 위해 만족해야 할 수학적 성질은 무엇인가?
• RQ3 모든 신뢰영역이 유효한 추론 모델의 가능성영역으로 표현될 수 있는가?
• RQ4 신뢰를 표현하는 데 있어 추론 모델 프레임워크는 전통적인 피드쿠얼 또는 베이지안 추론과 비교해 어떻게 다를까?
• RQ5 균일하게 더 효율적(즉, 더 작음)이면서도 포함도를 유지하는 가능성 영역을 구성할 수 있는가?

주요 결과

• 포함도 조건 (1)과 약간의 호환성 조건을 만족하는 모든 명목상의 신뢰영역은 유효한 추론 모델의 가능성영역에 대응된다.
• IM 프레임워크에서 유도된 가능성영역은 항상 해당 신뢰영역 내부에 포함되며, 이는 그것이 더 효율적일 수 있음을 시사한다.
• n=799개의 관측치를 가진 경험분포함수의 경우, 특정 분포 $F$에 대한 IM 기반 가능성영역은 DKW 부등식으로 유도된 95% 신뢰밴드보다 엄격히 작게 발견되었다.
• 신경 데이터 예제에서, 95% 하한 신뢰밴드 상의 한 점에 대해 가능성 윤곽 $\mathsf{pl}_{x}(\{F\}) \approx 0$이었으며, 이는 이 점이 95% 가능성영역에서 제외됨을 의미한다. 이는 IM 영역이 더 좁다는 것을 확인한다.
• 완전클래스 정리는 IM 프레임워크가 유효할 뿐 아니라, 더 작은 영역으로 동일하거나 더 나은 포함도를 달성할 수 있음을 의미하는 최적성도 보장한다.
• 결과적으로 '가능성 구간'이라는 용어를 신뢰구간의 자연스럽고 직관적이며 수학적으로 엄밀한 해석으로 사용하는 것이 정당화된다. 이는 오해의 소지가 있는 확률적 언어를 대체한다.