[논문 리뷰] Ergodic theorems for imprecise probability kinematics

Michele Caprio, Sayan Mukherjee|arXiv (Cornell University)|2020. 03. 13.

Bayesian Modeling and Causal Inference참고 문헌 10인용 수 1

한 줄 요약

이 논문은 데이터가 축적됨에 따라 집합적 사전확률 𝒫를 제피리의 규칙을 사용해 갱신하는 불확실한 확률 역학에 대한 에르고딕 이론을 개발한다. 기하급수적 표본공간에서 강한 대수법칙을 확립하고, 하한 확률이 거의 확실히 구간으로 수렴함을 증명함으로써, 사전에 대한 불확실성이 존재하는 상황에서 신뢰도 있는 민감도 분석을 위한 강력한 프레임워크를 제공한다.

ABSTRACT

In a standard Bayesian setting, there is often ambiguity in prior choice, as one may have not sufficient information to uniquely identify a suitable prior probability measure encapsulating initial beliefs. To overcome this, we specify a set $\mathcal{P}$ of plausible prior probability measures; as more and more data are collected, $\mathcal{P}$ is updated using Jeffrey's rule of conditioning, an alternative to Bayesian updating which proves to be more philosophically compelling in many situations. We build the sequence $(\mathcal{P}^*_k)$ of successive updates of $\mathcal{P}$ and we provide an ergodic theory to analyze its limit, for both countable and uncountable sample spaces. A result of this ergodic theory is a strong law of large numbers in the uncountable setting. We also give an interval that almost surely contains lower probabilities associated with the elements of $(\mathcal{P}^*_k)$.

연구 동기 및 목표

• 정보 부족으로 인해 단일 사전확률이 초기 신념을 충분히 표현할 수 없는 상황에서 베이지안 추론의 사전 불확실성 문제를 다루기 위해.
• 표준 베이지안 조건화보다 철학적으로 더 타당한 제피리의 규칙을 사용하여, 유의미한 사전확률 측도 집합 𝒫에 대한 동적 갱신 메커니즘을 개발하기 위해.
• 데이터가 축적됨에 따라 갱신된 집합들의 수열 (𝒫*ₖ)에 대한 에르고딕 이론을 수립하여 장기적 수렴 분석을 가능하게 하기 위해.
• 기하급수적 표본공간 설정에서의 불확실한 확률에 대한 강한 대수법칙을 유도함으로써, 빈도주의 수렴을 불확실한 확률 모델로 확장하기 위해.
• 갱신된 집합 𝒫*ₖ의 하한 확률을 포함하는 거의 확실한 구간을 특정함으로써, 강건한 불확실성 정량화를 제공하기 위해.

제안 방법

• 논문은 초기 불확실성을 가능한 믿음의 범위를 나타내는 사전확률 측도 집합 𝒫를 통해 모델링한다.
• 새로운 데이터가 도착함에 따라 제피리의 조건화 규칙을 순차적으로 적용하여, 갱신된 집합들의 수열 (𝒫*ₖ)을 생성한다.
• 분석은 가산 및 기하급수적 표본공간 모두에서 수행되며, 특히 기하급수적 경우에 특별한 주의를 기울인다.
• 에르고딕 이론을 활용하여 (𝒫*ₖ)의 渐近적 행동을 연구하고, 하한 확률의 수렴 성질에 초점을 맞춘다.
• 핵심 구성 요소로는 하한 확률 평가 및 거의 확실한 수렴 결과를 사용하여 갱신된 집합들의 점근적 행동을 특성화한다.
• 측도론적 도구를 활용하여 기하급수적 설정에서 수학적 엄밀성을 확보한다.

실험 결과

연구 질문

• RQ1 단일 사전확률이 초기 신념을 충분히 표현할 수 없는 상황에서, 베이지안 추론의 사전 불확실성 문제를 체계적으로 어떻게 다룰 수 있는가?
• RQ2 데이터가 축적됨에 따라 제피리의 규칙을 통해 갱신된 사전확률 집합의 장기적 행동은 어떻게 되는가?
• RQ3 이 갱신 메커니즘 하에서 기하급수적 표본공간에서의 불확실한 확률에 대해 강한 대수법칙이 성립하는가?
• RQ4 데이터가 증가함에 따라 갱신된 집합 (𝒫*ₖ)의 하한 확률을 포함하는 거의 확실한 구간을 특정할 수 있는가?
• RQ5 이 불확실한 확률 역학 프레임워크 하에서 하한 확률의 수렴 성질은 어떠한가?

주요 결과

• 기하급수적 표본공간 설정에서 강한 대수법칙이 확립되어, 빈도주의 수렴을 불확실한 확률 모델로 확장하였다.
• 갱신된 집합들의 수열 (𝒫*ₖ)이 분포상으로 수렴하여, 하한 확률이 거의 확실히 특정 구간 내에 존재한다.
• 하한 확률를 포함하는 구간은 거의 확실하게 유계이며, 제피리의 규칙을 반복 적용하더라도 안정적이다.
• 개발된 에르고딕 이론은 갱신된 집합들의 장기적 행동이 예측 가능하고 수학적으로 타당함을 보장한다.
• 사전 사양이 모호할 경우 표준 갱신 방식의 비베이지안적 대안으로 강건한 프레임워크를 제공한다.
• 결과는 유일한 사전이 없더라도 데이터 축적 과정에서 불확실한 확률 모델의 일관성과 수렴성을 확인한다.