[論文レビュー] Efficient learning in ABC algorithms

Mohammed Sedki, Pierre Pudlo+3 more|arXiv (Cornell University)|Oct 4, 2012

Markov Chains and Monte Carlo Methods参考文献 23被引用数 8

ひとこと要約

本稿では、後方予測の精度を維持しながら、モデルシミュレーション回数を著しく削減する、適応的で自己校正可能な逐次モンテカルロ（SMC）アルゴリズムを、近似ベイズ推論（ABC）に提案する。許容誤差レベルと再サンプリング戦略を動的に調整することで、集団遺伝学的応用において、標準的なABC棄却サンプリングと比較して最大2倍の速度を達成し、同等の結果を得るためのシミュレーション回数を50％削減する。

ABSTRACT

Approximate Bayesian Computation has been successfully used in population genetics to bypass the calculation of the likelihood. These methods provide accurate estimates of the posterior distribution by comparing the observed dataset to a sample of datasets simulated from the model. Although parallelization is easily achieved, computation times for ensuring a suitable approximation quality of the posterior distribution are still high. To alleviate the computational burden, we propose an adaptive, sequential algorithm that runs faster than other ABC algorithms but maintains accuracy of the approximation. This proposal relies on the sequential Monte Carlo sampler of Del Moral et al. (2012) but is calibrated to reduce the number of simulations from the model. The paper concludes with numerical experiments on a toy example and on a population genetic study of Apis mellifera, where our algorithm was shown to be faster than traditional ABC schemes.

研究の動機と目的

• 尤度評価が困難な複雑なモデルにおいて、尤度フリー推論におけるABC手法の計算負荷を軽減すること。
• 後方予測の質を損なわせることなく、モデルシミュレーション回数を最小限に抑える効率的で適応的な逐次モンテカルロアルゴリズムの開発。
• SMCプロセス中に許容誤差レベルを動的に校正することで、サンプリング効率と収束速度を向上させること。
• 本手法を、簡単な例題と *Apis mellifera* を含む実世界の集団遺伝学データセットに対して評価すること。
• 特に粒子数 $ N $ のチューニングに関する実用的ガイドラインを提供すること、特に実応用におけるパラメータの調整。

提案手法

• 本手法は、初期許容誤差レベル $ ho_0 $ を大きくして開始し、反復ごとに段階的に小さくすることで、後方予測の近似を改善する逐次モンテカルロ（SMC）フレームワークを採用する。
• 有効サンプルサイズ（ESS）と、シミュレートされた要約統計量と観測された要約統計量の距離の分布に基づいて、各反復で最適な許容誤差レベルを推定する自己校正メカニズムを導入する。
• 許容誤差レベルが減少するに従い、観測データと整合するパrameter空間の領域へと粒子を伝搬させるために、再サンプリングと粒子変異ステップを用いる。
• 有効サンプルサイズ（ESS）に基づく基準を用いて許容誤差レベルを適応的に調整することで、精度を維持するのに十分な粒子数が保たれるようにする。
• 最終的な出力は、最終的な粒子集合に対して小さな許容誤差 $ ho_T $ を用いた棄却ステップを後処理として適用することで得られ、最終的なサンプルがターゲットの後方分布を近似する。
• 本手法は初期パラメータの選択に強く、2段階のチューニング手順を含む：まず小規模な $ N $ を用いた予備走行で $ T $ と $ ho_T $ を推定し、その後大規模な $ N $ を用いた本番走行を実施する。

実験結果

リサーチクエスチョン

• RQ1 適応的で自己校正可能なSMC-ABCアルゴリズムは、精度を損なわせることなく、ABCにおけるモデルシミュレーション回数を削減できるか？
• RQ2 標準的ABC棄却サンプリングと比較して、提案手法の計算効率と精度はどのように異なるか？
• RQ3 許容誤差レベルの動的調整は、複雑なモデルにおける後方予測近似の収束性と安定性にどのような影響を与えるか？
• RQ4 実用的な場面で、計算コストと精度のバランスを考慮して、粒子数 $ N $ を効果的にチューニングする方法は何か？
• RQ5 本アルゴリズムは、高次元の要約統計量を持つ実世界の集団遺伝学的データセットに、どの程度適用可能か？

主な発見

• 提案手法は、*Apis mellifera* の集団遺伝学的ケーススタディにおいて、標準的ABC棄却サンプリングと比較して、計算効率が約2倍向上した。
• 同等の品質の後方予測を得るために必要なモデルシミュレーション回数は、標準的ABC棄却アルゴリズムと比較して約50％削減された。
• 収束は反復 $ T = 14 $ で達成され、許容誤差レベル $ ho_T \to 0.1 $ となった。これは許容誤差スケジュールの効果的な適応を示している。
• 図7に示すように、5回の独立な再現実験において、2つの混合率の後方推定値が安定しており、本手法の堅牢性が確認された。
• 自己校正メカニズムにより、許容誤差レベルの手動チューニングの必要性が著しく減少し、収束が速くなり、サンプリング効率が向上した。
• 本手法は、簡単な例題と実際の集団遺伝学データセットの両方で一貫した性能を示し、高次元かつ複雑な設定における実用的有用性が検証された。