[論文レビュー] Inferences from prior-based loss functions

Michael Evans, Gun Ho Jang|arXiv (Cornell University)|Apr 16, 2011

Bayesian Modeling and Causal Inference参考文献 16被引用数 8

ひとこと要約

本稿は、相対的驚き比を用いて不変でベイズ的不偏な推論を生成する事前分布に基づく損失関数を導入し、相対的驚き推論の意思決定理論的基盤を提供する。これらの推論が最高後方密度（HPD）領域と同じ極限に収束し、再パラメトリゼーションに対して不変であることを証明しており、MAPに基づく手法の強力な代替手段を提供する。

ABSTRACT

Inferences that arise from loss functions determined by the prior are considered and it is shown that these lead to limiting Bayes rules that are closely connected with likelihood. The procedures obtained via these loss functions are invariant under reparameterizations and are Bayesian unbiased or limits of Bayesian unbiased inferences. These inferences serve as well-supported alternatives to MAP-based inferences.

研究の動機と目的

• 再パラメトリゼーションに対して不変である意思決定理論的基盤を有する相対的驚き推論を構築すること。
• パrameterの滑らかな変換に対して不変でないMAPに基づく推論の問題を解決すること。
• 事前分布に基づく損失関数から導かれるベイズ的決定ルールと相対的驚き推論との関係を確立すること。
• 相対的驚き推論がベイズ的不偏手順の極限に一致し、最良の頻度的性質を有することを示すこと。
• 再パラメトリゼーションにおいて不変かつ一貫性を保つMAP推定のwell-supportedな代替手段を提供すること。

提案手法

• 事前密度から導かれる損失関数を定義し、後方リスクの最小化が相対的驚き推論を誘発することを示す。
• 信頼区域 $ C_{\nu}(x) = \{ \psi : \pi_{\Psi}(\psi|x)/\pi_{\Psi}(\psi) \geq c_{\nu}(x) \} $ を構築し、比が事前から事後への信念の変化を測定することを示す。
• 局所的近傍を用いた近似領域 $ C_{\lambda,\gamma}(x) $ を構成し、相対的驚き領域への収束を保証する。
• $ \lambda \to 0 $ の極限における $ \Pi_{\Psi}(C_{\lambda,\gamma}(x)|x) $ の極限を用いて $ \gamma $-信頼区域を定義し、相対的驚きの原則と整合性を保つ。
• 収束定理を適用して $ C_{\lambda,\gamma}(x) \to C_{\gamma}(x) $ が後方確率において $ \lambda \to 0 $ のとき成り立つことを示し、漸近的同等性を確立する。
• 極限領域 $ C_{\gamma}(x) $ が相対的驚き領域と同等であり、それらの不変性および最適性の性質を継承することを示す。

実験結果

リサーチクエスチョン

• RQ1 事前分布に基づく損失関数は、再パラメトリゼーションに対して不変な推論を生成できるか？
• RQ2 事前後方密度比に基づく相対的驚き推論は、MAPに基づく推論と比較して意思決定理論的最適性においてどのように異なるか？
• RQ3 事前分布に基づく損失関数から得られる推論は、明確な極限に収束し、ベイズ的不偏性を保つのか？
• RQ4 事前分布に基づく損失関数からの極限領域と標準的な相対的驚き領域との関係は何か？
• RQ5 これらの推論は、適切な意思決定理論的基準の下で、すべてのベイズ的推論のクラスにおいて最適であると示せるか？

主な発見

• 事前分布に基づく損失関数から導かれる極限のベイズルールは再パラメトリゼーションに対して不変であり、MAP推定の主要な欠陥を解消する。
• 得られた推論は、頻度的性質および不変性において最適であると知られている相対的驚き領域と同等である。
• $ \lambda \to 0 $ のときの収束 $ C_{\lambda,\gamma}(x) \to C_{\gamma}(x) $ は後方確率において成立し、近似の整合性を保証する。
• 最小相対的驚き推定子（LRSE）は、$ \pi_{\Psi}(\psi|x)/\pi_{\Psi}(\psi) $ の最大化者として定義され、極限のベイズルールであることが示された。
• この手順により、不変かつベイズ的不偏推論の極限である信頼領域が得られ、強い意思決定理論的基準を満たす。
• 本稿は、極限領域 $ C_{\gamma}(x) $ が相対的驚きから導かれるものと同じであることを確立し、その最適性および一貫性を確認した。