[논문 리뷰] A detailed treatment of Doob's theorem

Jeffrey W. Miller|arXiv (Cornell University)|2018. 01. 09.

Advanced Topology and Set Theory참고 문헌 5인용 수 7

한 줄 요약

이 논문은 베이지안 통계에서 Doob의 정리에 대한 완전하고 엄밀한 증명을 제공하며, 약간의 정규성 조건과 식별 가능성 조건 하에 데이터가 축적됨에 따라 사후 분포가 거의 확실히 진짜 매개변수 주위에 집중됨을 보장한다. 주요 기여는 정리의 타당성을 위해 필요한 비트레비얼한 가측성 조건에 대한 세부적인 다루기이며, 특히 진짜 매개변수 θ₀가 무한한 데이터 시퀀스 (X₁,X₂,…)의 가측 함수로 거의 확실히 복원될 수 있음을 보여주는 것이다.

ABSTRACT

Doob's theorem provides guarantees of consistent estimation and posterior consistency under very general conditions. Despite the limitation that it only guarantees consistency on a set with prior probability 1, for many models arising in practice, Doob's theorem is an easy way of showing that consistency will hold almost everywhere. In this article, we give a detailed proof of Doob's theorem.

연구 동기 및 목표

• Doob의 정리를 최소한의 가정 하에 완전히 상세하고 자가 포함된 증명을 제공하는 것.
• Doob 원래의 추론에서의 기초적인 가측성 문제를 해결하는 것: 진짜 매개변수 θ₀가 무한한 데이터 시퀀스 (X₁,X₂,…)의 가측 함수임을 보이는 것.
• 사후 집중과 사후 평균 일치가 공동 측도 μ에 대해 거의 확실히 성립하는 조건을 명확히 하는 것.
• 이전의 Doob의 정리 다루기에서 자주 생략되거나 과도하게 단순화된 기술적 측도 이론적 추론을 메우는 것.
• 특히 비모수적 및 무한차원 설정에서 Doob의 정리를 실용적 베이지안 모델에 적용하기 위한 이론적 기초를 마련하는 것.

제안 방법

• 모든 A ∈ A∞에 대해 θ ↦ P∞θ(A)가 가측임을 보이기 위해 π–λ 정리를 사용하여 공동 측도 μ가 잘 정의됨을 보장하는 것.
• 마팅게일 수렴 정리를 적용하여 사후 평균과 사후 분포의 거의 확실한 수렴을 확립하는 것.
• θ₀ = f(X₁,X₂,…) 거의 확실히 성립하는 가측 함수 f를 구성하는 것. 이는 사후 일치를 증명하는 데 핵심적인 요소이다.
• 모든 E ∈ A∞ ⊗ B에 대해 P∞θ(Eθ)의 가측성을 검증함으로써, (X∞, Θ) 위의 공동 분포 μ가 곱공간 위에서 잘 정의됨을 보이는 것.
• 모든 A ∈ A에 대해 θ ↦ Pθ(A)가 가측임을 보장하는 가측 가족 가정을 활용하여, π–λ 정리를 통해 곱공간 위로의 가측성 확장을 이룩하는 것.
• 제품 σ-대칭과 조건부 분포를 신중하게 다루어 사후 추론의 모든 운영이 가측이 되도록 보장하는 것.

실험 결과

연구 질문

• RQ1 n → ∞ 일 때, 사후 분포가 거의 확실히 진짜 매개변수 θ₀ 주위에 집중하는 데 필요한 일반 조건은 무엇인가요?
• RQ2 진짜 매개변수 θ₀가 무한한 데이터 시퀀스 (X₁,X₂,…)의 함수로 거의 확실히 가측임을 엄밀하게 어떻게 증명할 수 있나요?
• RQ3 식별 가능성 가정은 Doob의 정리에서 사후 일치를 보장하는 데 어떤 역할을 하나요?
• RQ4 왜 Doob의 정리는 사전 확률이 1인 집합에서만 일관성을 보장하며, 이는 모델 선택과 사전 사양에 어떤 영향을 미치나요?
• RQ5 Doob의 정리에서의 기술적 가측성 조건은 무한차원 모델에 대한 정리의 적용 가능성에 어떤 영향을 미치나요?

주요 결과

• 모델이 식별 가능하고 {Pθ} 가 가측일 경우, E|g(θ̂)| < ∞ 를 만족하는 임의의 가측 함수 g(θ)에 대해 Doob의 정리는 거의 확실한 사후 일관성을 보장한다.
• 핵심 기술적 기여는 진짜 매개변수 θ₀가 무한한 데이터 시퀀스 (X₁,X₂,…)의 가측 함수임을 증명하는 것으로, 이는 마팅게일 추론에 적용되기 위해 필수적이다.
• 공동 측도 μ가 (X∞, Θ) 위에서 잘 정의되는데, 이는 π–λ 정리를 통해 모든 E ∈ A∞ ⊗ B에 대해 θ ↦ P∞θ(Eθ) 가 가측임을 보임으로써 확립된다.
• 사후 평균 일관성은 데이터에 의해 생성된 필터레이션에 적합한 마팅게일의 거의 확실한 수렴에서 유도된다.
• 결과는 Θ가 일반적인 완비분리가능 거리공간일 경우에도 성립하며, 이는 Doob 원래 결과의 적용 범위를 확장한다.
• 사전 질량이 한 점에 집중할 경우 그 점 외부에서는 일관성이 실패함을 설명함으로써, Doob의 정리가 병리적인 경우에 대한 비판을 정당화한다.