[論文レビュー] Why approximate Bayesian computational (ABC) methods cannot handle model choice problems

Christian P. Robert, Jean‐Michel Marin+1 more|arXiv (Cornell University)|Jan 26, 2011

Markov Chains and Monte Carlo Methods参考文献 49被引用数 9

ひとこと要約

この論文は、近似ベイズ計算（ABC）手法が、十分統計量が不十分なためベイズ因子を近似するため、無限の計算をしても一貫性のない事後確率を生じる可能性があるため、ベイズモデル選択を信頼して行えないことを示している。主な結果は、十分統計量でない場合、ABCに基づくモデル選択は真の事後モデル確率に収束しないことであり、これは一般の設定においてABCがモデル比較に不適切であることを示している。

ABSTRACT

Approximate Bayesian computation (ABC), also known as likelihood-free methods, have become a favourite tool for the analysis of complex stochastic models, primarily in population genetics but also in financial analyses. We advocated in Grelaud et al. (2009) the use of ABC for Bayesian model choice in the specific case of Gibbs random fields (GRF), relying on a sufficiency property mainly enjoyed by GRFs to show that the approach was legitimate. Despite having previously suggested the use of ABC for model choice in a wider range of models in the DIY ABC software (Cornuet et al., 2008), we present theoretical evidence that the general use of ABC for model choice is fraught with danger in the sense that no amount of computation, however large, can guarantee a proper approximation of the posterior probabilities of the models under comparison.

研究の動機と目的

• 複雑な確率的モデルにおけるABCを用いたベイズモデル選択の理論的妥当性を調査すること。
• 無制限の計算リソースを有しても、ABCに基づくモデル選択が根本的に誤りになり得る理由を特定すること。
• 十分統計量でない場合、ABCによるベイズ因子の近似が真の事後モデル確率に収束しないことを示すこと。
• 十分統計量が存在しない状況ではABCをモデル比較に依存しないよう研究コミュニティに警告すること。
• 完全な尤度が計算不能な状況でもモデル選択が重要である分野におけるABCの限界を強調すること。

提案手法

• 分散が異なる2つのモデルを比較する正規位置モデルにおけるABCの挙動の理論的分析。
• 共役事前分布の下での正確な周辺尤度およびベイズ因子の導出を行い、ABC近似と比較する。
• 十分統計量（標本平均）と不十分統計量（標本分散）を用いてABCの性能を対比する。
• 標本サイズが増加する際、同じ要約統計量と許容誤差を用いても、ABC近似ベイズ因子が真のベイズ因子に収束しないことを証明する。
• 複数のデータセットにおけるABC推定と真の事後オッズの差異比をシミュレーションで評価する。
• 実世界の例への適用：要約統計量を用いた人口遺伝学におけるABCモデル選択のフレームワークの適用。

実験結果

リサーチクエスチョン

• RQ1 ABCは、複雑なモデルにおけるモデル選択のための事後モデル確率を信頼して近似できるか？
• RQ2 ABCはどのような条件下でモデル比較における真のベイズ因子に収束しないのか？
• RQ3 不十分な要約統計量の使用が、ABCに基づくモデル選択の一貫性にどのように影響するか？
• RQ4 要約統計量が十分でない場合、ABCに基づくベイズ因子をモデル選択に用いる理論的根拠はあるか？
• RQ5 ABCの不一致が、人口遺伝学分野で広く使われているソフトウェア（DIYABC や PopABC など）に及ぼす影響は何か？

主な発見

• 要約統計量が十分でない場合、ABCに基づくモデル選択は根本的に不一致となる。ABC近似ベイズ因子は真の事後オッズに収束しない。
• 無限の計算が行われても、不十分統計量を用いる限り、ABC近似ベイズ因子は真のモデル事後確率を回復できない。
• 分散が異なる正規モデルでは、標本サイズが増加するにつれて、ABC近似ベイズ因子は真のモデルにかかわらず1に収束する。これは体系的な失敗を示している。
• シミュレーションにより、中程度の標本サイズ（例：n=15）でも、真の値とABC近似値の差異は顕著で、持続的であることが示された。
• 要約統計量が十分統計量（標本平均）であっても、モデル比較が高次モーメントに依存する場合には一貫性が保たれない。
• 本論文は、要約統計量が十分でない場合にはABCが一般のモデル選択に対して有効ではないと結論づけ、実務における盲目的な使用を警告している。