[論文レビュー] Measuring Bayesian Robustness Using Rényi's Divergence and Relationship with Prior-Data Conflict

Luai Al‐Labadi, Ce Wang|arXiv (Cornell University)|May 15, 2019

Advanced Statistical Methods and Models被引用数 1

ひとこと要約

本稿では、曖昧な事前分布の下での事後分布間の曲率を測定するために、Rényiの発散を用いた新しいベイズ的ロバストネスの尺度を提案する。2つのクラス—ε-混入および幾何的混合事前分布—を比較し、ロバストネスと事前分布・データの矛盾の間の強い経験的関連性を示している。これは、高いロバストネスが事後推論における矛盾の低減と相関していることを示している。

ABSTRACT

This paper deals with measuring the Bayesian robustness of classes of contaminated priors. Two different classes of priors in the neighbourhood of the elicited prior are considered. The first one is the well-known $\epsilon$-contaminated class, while the second one is the geometric mixing class. The proposed measure of robustness is based on computing the curvature of Renyi's divergence between posterior distributions. The relationship between robustness and prior data conflict has been studied. Through two examples, a strong connection between robustness and prior-data conflict has been found.

研究の動機と目的

• 事前分布の混入下でのベイズ推論のためのロバストネス尺度の開発。
• ε-混入および幾何的混合の2種類の混入事前分布クラスの比較。
• 事後分布におけるロバストネスと事前分布・データの矛盾の関係の調査。
• 感度分析のための曲率ベースの指標として、Rényiの発散を用いた測定法の提供。

提案手法

• Rényiの発散を用いて、変化する混入事前分布の下での事後分布の曲率を定量化する。
• ε-混入クラスを適用し、事前分布を提示された事前分布と混入分布の混合としてモデル化する。
• 幾何的混合クラスを用い、基本的な事前分布と混入分布の幾何的混合によって事前分布の不確実性をモデル化する。
• 混入パラメータに関するRényi発散の2階微分を計算し、ロバストネスの曲率を評価する。
• 両方の事前分布クラスの下での事後分布を分析し、感度とロバストネスを評価する。
• 2つの実例を用いて、ロバストネスと事前分布・データの矛盾の関係を示す。

実験結果

リサーチクエスチョン

• RQ1 Rényiの発散は、事前分布の混入下での事後分布の曲率をどのように捉えているか？
• RQ2 ベイズモデルにおけるε-混入と幾何的混合事前分布の相対的ロバストネスはどの程度か？
• RQ3 事前分布・データの矛盾は、事後推論における低ロバストネスとどの程度相関しているか？
• RQ4 Rényi発散の曲率は、感度分析におけるロバストネスの信頼できる指標として機能するか？
• RQ5 異なる混入構造は、事後分布の安定性にどのように影響するか？

主な発見

• 事後分布間のRényi発散の曲率は、事前分布の混入下でのベイズ的ロバストネスの定量的測定に有効である。
• ε-混入と幾何的混合の2クラスは、それぞれ異なるロバストネスプロファイルを示し、後者はより安定した曲率挙動を示している。
• 研究された例において、低ロバストネスと高い事前分布・データの矛盾の間には強い経験的関連性が確認された。
• 高い矛盾状況下での事後分布では、Rényi発散の曲率がより大きくなり、ロバストネスが低下していることが示された。
• 提案された尺度は、事前分布における混入に対する感受性を通じて、事前分布・データの矛盾を効果的に同定できる。