[論文レビュー] Bayes-Optimal Sequential Multi-Hypothesis Testing in Exponential Families

Jue Wang|arXiv (Cornell University)|Jun 30, 2015

Advanced Statistical Process Monitoring参考文献 39被引用数 5

ひとこと要約

本稿では、指数型分布族におけるベイズ最適逐次多仮説検定の計算可能性を高める手法を提案する。自然十分統計量を活用することで、事後確率空間の次元を指数型分布族のパラメータ空間の次元以下に削減する。一般的なスカラー指数型分布族に対しては、状態空間が1次元または2次元にまで削減され、最適方策の効率的計算が可能となり、シミュレーションにおいて既存手法を著しく上回る性能を示す。

ABSTRACT

Bayesian sequential testing of multiple simple hypotheses is a classical sequential decision problem. But the optimal policy is computationally intractable in general, because the posterior probability space is exponentially increasing in the number of hypotheses (i.e, the curse of dimensionality in state space). We consider a specialized problem in which observations are drawn from the same exponential family. By reconstructing the posterior probability vector using the natural sufficient statistic, it is shown that the intrinsic dimension of the posterior probability space cannot exceed the number of parameters governing the exponential family, or the number of hypotheses, whichever is smaller. For univariate exponential families commonly used in practice, the probability space is of one or two dimension in most cases. Hence, the optimal policy can be attainable with only moderate computation. Geometric interpretation and illustrative examples are presented. Simulation studies suggest that the optimal policy can substantially outperform the existing method. The results are also extended to the sequential sampling control problem.

研究の動機と目的

• 事後確率空間の次元の爆発に起因する最適ベイジアン逐次検定の計算非可能性に対処すること。
• 観測値が指数型分布族に従う場合に、事後確率空間の次元を削減できる条件を特定すること。
• 特にスカラー指数型分布族に対して、このような状況下でのベイズ最適方策を計算可能なアルゴリズムとして開発すること。
• シミュレーション研究を通じて、最適方策が既存手法をどれほど上回るかを示すこと。
• コスト感受性の高い意思決定を伴う逐次サンプリング制御問題へフレームワークを拡張すること。

提案手法

• 観測データに含まれるすべての関連情報を保持する指数型分布族の自然十分統計量を用いて、事後確率ベクトルを再構築する。
• 事後確率空間の内因的次元が、指数型分布族のパラメータ数と仮説数の最小値で上限付けられることを示す。
• 幾何的解析を用いて、事後分布の時間的変化を低次元単体上を描く経路として解釈し、効率的な数値計算を可能にする。
• 削減された次元の事後確率空間上で動的計画法を用いて最適逐次検定方策を定式化する。
• ベルヌーイ、ポアソン、正規分布などの一般的なスカラー指数型分布族に対して適用し、事後確率空間が1次元または2次元にまで制限されることを確認する。
• 制御コストを意思決定ルールに組み込むことで、逐次サンプリング制御問題への拡張を実現する。

実験結果

リサーチクエスチョン

• RQ1 観測値が指数型分布族に従う場合、逐次多仮説検定における事後確率空間の次元を削減できるか。
• RQ2 指数型分布族モデルにおける事後確率空間の内因的次元は何か。また、仮説数とモデルパラメータ数とどのように関係するか。
• RQ3 低次元事後確率空間ではベイズ最適方策が計算的に可能となり、効率的に計算可能か。
• RQ4 期待サンプルサイズと誤検出率の観点から、最適方策は既存の準最適手法をどれほど上回るか。
• RQ5 コスト感受性の高い意思決定を伴う逐次サンプリング制御問題へ、このフレームワークを拡張可能か。

主な発見

• 指数型分布族モデルにおける事後確率空間は、本質的に低次元であり、次元はパラメータ数と仮説数の最小値で上限付けられる。
• 多くのスカラー指数型分布族に対して、事後確率空間は1次元または2次元にまで制限され、最適方策の計算が可能となる。
• 提案手法により、低次元化された事後確率空間上で動的計画法を用いてベイズ最適方策を正確に計算可能となる。
• シミュレーション研究では、特に信号が弱い状況下で、既存手法と比較して期待サンプルサイズが著しく削減される。
• 事後確率空間の幾何的構造のおかげで、直感的な解釈と効率的な数値実装が可能となる。
• フレームワークは、情報の獲得とサンプリングコストのバランスを最適化する逐次サンプリング制御問題へ一般化可能である。