[論文レビュー] The Inverse Gamma-Gamma Prior for Optimal Posterior Contraction and Multiple Hypothesis Testing

Ray Bai, Malay Ghosh|arXiv (Cornell University)|Oct 12, 2017

Statistical Methods and Inference参考文献 8被引用数 7

ひとこと要約

本稿は、ガウスノイズ下でのスパースな高次元平均ベクトルのベイズ推定のための逆ガンマ・ガンマ（IGG）事前分布を導入する。スケール・ミックスチャージ・ノルム構造を活用することで、IGGは近ミニマックスの事後収縮を達成し、カルバック・ライブラーマン（Kullback-Leibler）収縮においてホーシューフィールドおよびホーシューフィールド+を上回る。また、信号分類のための最適ベイズリスクに漸近的に到達する仮説検定を可能にする。

ABSTRACT

We study the well-known problem of estimating a sparse $n$-dimensional unknown mean vector $θ= (θ_1, ..., θ_n)$ with entries corrupted by Gaussian white noise. In the Bayesian framework, continuous shrinkage priors which can be expressed as scale-mixture normal densities are popular for obtaining sparse estimates of $θ$. In this article, we introduce a new fully Bayesian scale-mixture prior known as the inverse gamma-gamma (IGG) prior. We prove that the posterior distribution contracts around the true $θ$ at (near) minimax rate under very mild conditions. In the process, we prove that the sufficient conditions for minimax posterior contraction given by Van der Pas et al. (2016) are not necessary for optimal posterior contraction. We further show that the IGG posterior density concentrates at a rate faster than those of the horseshoe or the horseshoe+ in the Kullback-Leibler (K-L) sense. To classify true signals ($θ_i eq 0$), we also propose a hypothesis test based on thresholding the posterior mean. Taking the loss function to be the expected number of misclassified tests, we show that our test procedure asymptotically attains the optimal Bayes risk exactly. We illustrate through simulations and data analysis that the IGG has excellent finite sample performance for both estimation and classification.

研究の動機と目的

• スパースな高次元平均ベクトルに対する最適な事後収縮を可能にする新しいベイズ的事前分布の開発を目的とする。
• ホーシューフィールドおよびホーシューフィールド+のような既存のスパース化事前分布よりも、事後収縮および頻度論的最適性の観点で優れるようにすることを目的とする。
• 事後平均に基づく仮説検定手順を設計し、複数の仮説検定において漸近的に最適ベイズリスクに到達することを目的とする。
• 事後収縮が最適であることを保証する理論的条件を確立すること、特にVan der Pasら（2016）の条件が満たされない場合でも成立することを目的とする。

提案手法

• 逆ガンマ・ガンマ（IGG）事前分布をスケール・ミックスチャージ・ノルムとして提案し、逆ガンマ分布およびガンマ分布を含む階層構造を用いる。
• IGG事前分布下での事後分布を導出し、頻度論的リスク基準を用いてその収縮特性を確立する。
• カルバック・ライブラーマン（Kullback-Leibler）距離を用いて、IGG事後分布とホーシューフィールドおよびホーシューフィールド+の収縮レートを比較する。
• 事後平均のしきい値処理に基づく複数仮説検定手順を開発し、期待誤分類損失を最小化する。
• 理論的分析を用いて、提案手法の検定が漸近的に最適ベイズリスクに到達することを示す。
• シミュレーションおよび実データ解析を通じて性能を検証し、良好な有限標本性能を示す。

実験結果

リサーチクエスチョン

• RQ1 既存の結果よりも弱い条件下でも、近ミニマックスの事後収縮を達成できるスケール・ミックスチャージ事前分布を構築可能か？
• RQ2 カルバック・ライブラーマンの観点から、IGG事前分布の事後収縮レートはホーシューフィールドおよびホーシューフィールド+と比較してどのように異なるか？
• RQ3 IGG事後平均に基づくベイズ的複数仮説検定手順は、漸近的に最適ベイズリスクに到達可能か？
• RQ4 Van der Pas ら（2016）のミニマックス事後収縮の十分条件は必要不可欠であるか、それともより弱い仮定のもとでも最適性が達成可能か？

主な発見

• IGG事前分布は、Van der Pas ら（2016）の条件が満たされない場合でさえ、非常に弱い正則性条件のもとで（近）ミニマックスの事後収縮レートを達成する。
• カルバック・ライブラーマン距離の観点から、IGG事後分布はホーシューフィールドおよびホーシューフィールド+よりも収縮が速く、より優れた事後収縮を示す。
• 提案された事後平均に基づく仮説検定は、漸近的に最適ベイズリスクに到達する。これは、極限において期待誤分類数を正確に最小化できることを意味する。
• シミュレーションおよびデータ解析により、IGG事前分布が推定および複数仮説検定の両面で優れた有限標本性能を示すことが確認された。
• 理論的枠組みにより、最適事後収縮のための十分条件が必ずしも必要ではないことが示され、効果的なスパース化事前分布の構築の範囲が拡張された。