[論文レビュー] New Insights Into Approximate Bayesian Computation

Gérard Biau, Frédéric Cérou+1 more|arXiv (Cornell University)|Jul 27, 2012

Markov Chains and Monte Carlo Methods参考文献 8被引用数 9

ひとこと要約

この論文は、近似ベイジアン計算（ABC）の厳密な非パラメトリック分析を提供し、その条件付き密度推定器をk近傍法とカーネル法のハイブリッドとして定式化している。弱い正則性条件のもとで、ABCの密度推定値が真の事後分布にほとんど確実に収束することを確立しており、複雑なモデルにおける尤度が得られない状況での使用に対する理論的裏付けを提供している。

ABSTRACT

Approximate Bayesian Computation (ABC for short) is a family of computational techniques which offer an almost automated solution in situations where evaluation of the posterior likelihood is computationally prohibitive, or whenever suitable likelihoods are not available. In the present paper, we analyze the procedure from the point of view of k-nearest neighbor theory and explore the statistical properties of its outputs. We discuss in particular some asymptotic features of the genuine conditional density estimate associated with ABC, which is an interesting hybrid between a k-nearest neighbor and a kernel method.

研究の動機と目的

• 尤度が計算不能または利用できない状況における近似ベイジアン計算（ABC）の非パラメトリック理論的基盤を提供すること。
• k近傍法とカーネル理論を用いてABCの条件付き密度推定器の統計的性質を分析すること。
• 弱い正則性仮定のもとで、ABCの密度推定値が真の事後密度にほとんど確実に収束することを確立すること。
• ABC手順の漸近的挙動を、確立された非パラメトリック推定技術と結びつけることにより明確にすること。

提案手法

• ABC手順は、k近傍法とカーネルスムージングの原則を組み合わせた非パラメトリック条件付き密度推定器として解釈される。
• 著者たちはk-NN理論を用いて、許容誤差εとシミュレーション回数Nを増加させた際のABC密度推定値の漸近的挙動を分析している。
• 重要な要素として、シミュレートされた要約統計量と観測された要約統計量との距離に依存するハイブリッド推定器の構築がある。
• 理論的分析は、特にハーディ–リトルウッドの最大関数とオーリッチノルム収束を含む、最大関数不等式と近似理論に依存している。
• 証明戦略は、コンパクトな台を持つ連続関数による真の密度の近似と、オーリッチ空間における積分可能性による誤差の制御を含む。
• 収束結果はL1ノルムにおいて確立され、最大関数の境界とボレル＝カンテーリーの補題を用いてほとんど確実収束へと拡張されている。

実験結果

リサーチクエスチョン

• RQ1 許容誤差εが0に近づき、シミュレーション回数Nが増加する際、ABCの条件付き密度推定値はどのように漸近的に振る舞うか？
• RQ2 ABCとk近傍法またはカーネル密度推定法との間には、どのような理論的関係があるか？
• RQ3 ABCの密度推定値が真の事後密度にほとんど確実に収束するための正則性条件は何か？
• RQ4 ABC手順は、現代の数学的統計の枠組みにおいて、非パラメトリック推定器として厳密に正当化できるか？

主な発見

• 弱い正則性条件のもとで、許容誤差εが0に近づき、シミュレーション回数Nが無限大に近づく際、ABCの密度推定値は真の事後密度にほとんど確実に収束する。
• ABC推定器は、k-NN距離とカーネルスムージングの相互作用によって支配される、k-NNとカーネル法の中間的なハイブリッドであることが示された。
• 収束はL1ノルムにおいて確立され、最大関数不等式とコンパクトな台を持つ連続関数による近似を用いて、ほとんど確実収束へと拡張された。
• 証明は、オーリッチ空間におけるハーディ–リトルウッドの最大関数の有界性に依存しており、条件付き密度の推定における誤差制御を保証している。
• 理論的枠組みは、尤度が計算不能または未知であっても、ABCが有効な非パラメトリック手法であることを確認している。