[論文レビュー] A detailed treatment of Doob's theorem

Jeffrey W. Miller|arXiv (Cornell University)|Jan 9, 2018

Advanced Topology and Set Theory参考文献 5被引用数 7

ひとこと要約

この論文は、ベイズ統計におけるドーブの定理に関する完全で厳密な証明を提供し、弱い正則性および同定可能性の条件下で、データが蓄積するにつれて事後分布がほとんど確実に真のパラメータのまわりに集中することを確立する。主な貢献は、定理の有効性に必要な非自明な可測性条件の詳細な取り扱いであり、特に真のパラメータが無限データ列の可測関数としてほとんど確実に回復可能であることを示している。

ABSTRACT

Doob's theorem provides guarantees of consistent estimation and posterior consistency under very general conditions. Despite the limitation that it only guarantees consistency on a set with prior probability 1, for many models arising in practice, Doob's theorem is an easy way of showing that consistency will hold almost everywhere. In this article, we give a detailed proof of Doob's theorem.

研究の動機と目的

• ドーブの定理の完全で自己完結的な証明を提供すること。これは最小限の仮定のもとで事後一致性を保証する。
• ドーブの元々の議論における基礎的な可測性問題を解決すること：真のパラメータ θ₀ が無限データ列 (X₁,X₂,…) の可測関数として表現可能であることを示すこと。
• 事後分布の集中および事後平均の一様収束が、連続測度 μ に関してほとんど確実に成立する条件を明確にすること。
• 先行研究におけるドーブの定理の取り扱いに見られるギャップを解消すること。特に、技術的で測度論的な議論を省略または単純化している点を補う。
• 非パラメトリックおよび無限次元設定における実用的ベイズモデルへのドーブの定理の適用の理論的基盤を確立すること。

提案手法

• π–λ定理を用いて、すべての A ∈ A∞ に対して写像 θ ↦ P∞θ(A) が可測であることを証明し、連続測度 μ が適切に定義されることを保証する。
• マルティンゲール収束定理を応用して、事後平均および事後分布のほとんど確実収束を確立する。
• θ₀ = f(X₁,X₂,…) がほとんど確実に成り立つような可測関数 f の構成。これは事後一致性の証明において中心的な役割を果たす。
• すべての E ∈ A∞ ⊗ B に対して P∞θ(Eθ) の可測性を検証することで、(X∞, Θ) 上の連続測度 μ が積空間上で適切に定義されることを示す。
• 可測族仮定（すべての A ∈ A に対して θ ↦ Pθ(A) が可測）を用いて、π–λ定理により積空間への可測性の拡張を実現する。
• 積σ代数および条件付き分布を慎重に取り扱い、事後推論におけるすべての操作が可測であることを保証する。

実験結果

リサーチクエスチョン

• RQ1 一般に、n → ∞ のとき、事後分布が真のパラメータ θ₀ にほとんど確実に集中する条件は何か？
• RQ2 真のパラメータ θ₀ が無限データ列 (X₁,X₂,…) の関数として、厳密に可測であることをどのように証明できるか？
• RQ3 同定可能性仮定が、ドーブの定理における事後一致性を保証するために果たす役割は何か？
• RQ4 なぜドーブの定理は、事後確率が 1 の集合でのみ一貫性を保証するのか？これによりモデル選択および事前分布の指定にどのような影響があるか？
• RQ5 ドーブの定理における技術的可測性条件が、無限次元モデルへの適用可能性に与える影響は何か？

主な発見

• モデルが同定可能であり、{Pθ} が可測である限り、E|g(θ̂)| < ∞ を満たす任意の可測関数 g(θ) に対して、ドーブの定理はほとんど確実に事後一致性を保証する。
• 主な技術的貢献は、真のパラメータ θ₀ が無限データ列 (X₁,X₂,…) の可測関数として表現可能であることを証明したことである。これはマルティンゲールの議論を適用するために不可欠である。
• 連続測度 μ が (X∞, Θ) 上で適切に定義されているのは、すべての E ∈ A∞ ⊗ B に対して写像 θ ↦ P∞θ(Eθ) が可測であることがπ–λ定理により示されたからである。
• 事後平均の一様収束は、データによって生成されるフィルトレーションに適応されたマルティンゲールのほとんど確実収束から導かれる。
• この結果は、Θ が一般の完備分離的距離空間である場合でも成り立つ。これはドーブの元々の結果の適用範囲を拡張する。
• 事前分布が単一の点に質量を集中させると、その点以外では一貫性が失敗することの理由が明確にされ、病理的ケースにおけるドーブの定理に対する批判を裏付ける。