[論文レビュー] Robust Bayesian Modeling of Counts with Zero inflation and Outliers: Theoretical Robustness and Efficient Computation

Yasuyuki Hamura, Kaoru Irie+1 more|arXiv (Cornell University)|Jun 19, 2021

Advanced Statistical Methods and Models参考文献 33被引用数 6

ひとこと要約

本稿では、極端な値と過剰なゼロを吸収するために、新しいリスケールドベータ（RSB）分布を用いた、ゼロ過剰と外れ値を伴うcountデータのロバストなベイズ枠組みを提案する。この手法により、効率的なギブスサンプリングが可能となり、理論的な事後分布のロバスト性を達成する。外れ値やゼロ過剰観測のメカニズムを明示的にモデル化することなく、自動的にそれらの影響を軽減し、階層モデルにおけるより信頼性の高い推論を実現する。

ABSTRACT

Count data with zero inflation and large outliers are ubiquitous in many scientific applications. However, posterior analysis under a standard statistical model, such as Poisson or negative binomial distribution, is sensitive to such contamination. This study introduces a novel framework for Bayesian modeling of counts that is robust to both zero inflation and large outliers. In doing so, we introduce rescaled beta distribution and adopt it to absorb undesirable effects from zero and outlying counts. The proposed approach has two appealing features: the efficiency of the posterior computation via a custom Gibbs sampling algorithm and a theoretically guaranteed posterior robustness, where extreme outliers are automatically removed from the posterior distribution. We demonstrate the usefulness of the proposed method by applying it to trend filtering and spatial modeling using predictive Gaussian processes.

研究の動機と目的

• ゼロ過剰と大きな外れ値の両方の影響を受けるcountデータに対して、ロバストな統計モデルの不足を解消すること。
• 極端な値や過剰なゼロによる汚染下でも精度を維持できる、計算効率の良いベイズ手法を開発すること。
• 理論的事後分布のロバスト性を確保すること。外れ値の影響は、データ点がモデルの平均から離れるほど小さくなるようにすること。
• ゼロ過剰や外れ値の生成メカニズムを明示的に構造的にモデル化することなく、統一的なモデリングアプローチを提供すること。
• 空間的および混合効果回帰などの階層モデルにおいて、データ汚染下でも信頼性の高い推論を可能にすること。

提案手法

• ゼロと外れ値の影響を吸収できるように、ポissonのレートパラメータに対する柔軟で条件付き共役な事前分布として、リスケールドベータ（RSB）分布を導入する。
• RSB分布をレートパラメータのロバストな事前分布として用いる階層混合モデルを構築し、標準的なガンマ分布や指数分布の代わりに使用する。
• 空間的および回帰モデルを含むさまざまなモデルで効率的な事後分布計算が可能な、カスタムのギブスサンプリングアルゴリズムを開発する。
• 潜在変数の表現を用いて混合割合sをモデル化し、外れ値およびゼロ過剰観測の自動特定を可能にする。
• 極端な外れ値の影響が事後分布において漸近的に消えることを証明することで、理論的事後分布のロバスト性を確立する。
• count回帰、局所適応平滑化、空間ポアソン回帰への応用を通じて、広範な適用可能性を示す。

実験結果

リサーチクエスチョン

• RQ1 明示的な汚染メカニズムのモデル化なしに、1つのベイズモデルがゼロ過剰と過分散を伴うcountデータを同時にロバストに扱えるか。
• RQ2 ゼロ過剰と外れ値の下で、階層モデルにおける効率的な事後分布計算をどのように達成できるか。
• RQ3 提案手法が理論的ロバスト性を示すか。外れ値がより極端になるにつれて、事後推論が安定するか。
• RQ4 汚染下において、RSBモデルが標準的なポアソンモデルや負の二項分布モデルに比べて、モデル適合度とパラメータ推定の面でどの程度優れているか。
• RQ5 外れ値やゼロ過剰観測の位置を事前に知らずに、モデルがそれらを自動で特定し、影響を軽減できるか。

主な発見

• RSBモデルのデビアンス情報基準（DIC）は8733であり、標準ポアソンモデルのDIC（13505）よりも顕著に低く、大幅に優れたモデル適合を示している。
• ηi > 10である事後中央値が12の場所を高外れ値として特定したが、これらはポアソンモデルでは捉えられず、空間効果の推定に偏りをもたらした。
• RSBモデルにおける空間帯域幅パラメータhの事後平均は1.126であったのに対し、ポアソンモデルでは0.289であった。これは、外れ値の影響が低減されたため、より滑らかな空間効果が得られたことを示している。
• ポアソンモデルにおけるβ1の事後平均はゼロを含む信頼区間を持っていたが、RSBモデルではゼロから離れた区間であった。推論における重要な差を示している。
• β5の事後平均はRSBモデルでは負であったが、ポアソンモデルでは正であった。外れ値への感受性による推論の相違を示している。
• RSBモデルにおける混合割合sのトレースプロットは収束を示しており、データにゼロ過剰と外れ値が存在することを裏付けた。