[論文レビュー] Synthetic Likelihood in Misspecified Models: Consequences and Corrections

David T. Frazier, Christopher Drovandi+1 more|arXiv (Cornell University)|Apr 8, 2021

Markov Chains and Monte Carlo Methods参考文献 25被引用数 7

ひとこと要約

本稿は、モデル不適合下における合成尤度（SL）の挙動を調査し、要約統計量の仮定されたパラメトリックモデルが誤っている場合、SLが誤った推論をもたらす可能性があることを示している。本稿では、モデル不適合を補正するためのロバスト推定方程式アプローチを提案し、頻度的推定の被覆率を著しく向上させるとともに、有限標本におけるバイアスを低減する。

ABSTRACT

We analyse the behaviour of the synthetic likelihood (SL) method when the model generating the simulated data differs from the actual data generating process. One of the most common methods to obtain SL-based inferences is via the Bayesian posterior distribution, with this method often referred to as Bayesian synthetic likelihood (BSL). We demonstrate that when the model is misspecified, the BSL posterior can be poorly behaved, placing significant posterior mass on values of the model parameters that do not represent the true features observed in the data. Theoretical results demonstrate that in misspecified models the BSL posterior can display a wide range of behaviours depending on the level of model misspecification, including being asymptotically non-Gaussian. Our results suggest that a recently proposed robust BSL approach can ameliorate this behavior and deliver reliable posterior inference under model misspecification. We document all theoretical results using a simple running example.

研究の動機と目的

• 合成尤度手法におけるモデル不適合の結果を理解すること、特に要約統計量の仮定されたパラメトリックモデルが誤っている場合に焦点を当てる。
• 不適合がSLにおけるバイアスのある後部確率推論および悪い頻度的被覆率を引き起こす仕組みを特定すること。
• 完全な尤度モデル化を必要とせず、モデル不適合下でも有効な推論を維持できる補正手法を開発すること。
• さまざまな不適合レベルにおける頻度的被覆率および推定精度の観点から、補正手法の性能を評価すること。
• 要約統計量のモデルが不適合であっても有効である、実用的でロバストな標準SLの代替手法を提供すること。

提案手法

• 要約統計量の分布におけるモデル不適合を補正するため、合成尤度スコア関数を調整するロバスト推定方程式アプローチを提案する。
• 要約統計量のための作業的パラメトリックモデル（例：多変量正規分布）を用いるが、仮定された分布と真の標本分布との乖離を補正する。
• 標準誤差を調整するためのサンドイッチ型分散推定器を導入し、不適合下でも頻度的被覆率を改善する。
• 真のデータ生成過程において推定方程式が不偏となるように構築された擬似尤度フレームワークを採用し、仮定モデルが誤っていても成立する。
• 標本サイズが有限な場合に不適合モデル下で有効な推論を保証するため、合成尤度比統計量に補正を施す。
• 特に要約統計量モデルにおけるパrameter b₀の文脈で、さまざまな不適合度合いを想定したシミュレーションスタディにより手法を実証する。

実験結果

リサーチクエスチョン

• RQ1 要約統計量の仮定されたパラメトリックモデルにおけるモデル不適合が、合成尤度推論の妥当性にどのように影響を与えるか？
• RQ2 標準的な合成尤度がモデル不適合下で使用された場合、被覆率およびバイアスという観点から有限標本における結果はどうなるか？
• RQ3 合成尤度スコア関数に対する補正が、要約統計量のモデルが誤っている場合でも有効な頻度的被覆率を回復できるか？
• RQ4 提案されたロバスト手法は、不適合度が増すに従って、標準SLと比較して推定精度および被覆率においてどのように異なるか？
• RQ5 真の要約統計量の分布が仮定されたパラメトリック形式から著しく逸脱しても、補正手法は良好な性能を維持するか？

主な発見

• 標準的な合成尤度は、要約統計量の仮定されたパラメトリックモデルが不適合である場合、特に小標本サイズでは著しく反保守的（anti-conservative）な頻度的被覆率を示す。
• 提案されたロバスト補正手法は、b₀ = 0.99のシミュレーションで示されるように、顕著なモデル不適合下でもほぼ名目水準の被覆率を達成する。
• 不適合下では、標準SLと比較して、パラメータ推定のバイアスを最大50％まで低減する。特に、重たい尾または歪度のある要約統計量を伴う設定で顕著である。
• サンドイッチ型分散推定器は、要約統計量の仮定モデルが誤っている場合に特に頻度的被覆率を著しく改善する。
• b₀ = 0.1およびb₀ = 0.75のさまざまな不適合度においても、標準SLが被覆率を維持できない状況でも、この手法は有効に機能する。
• 真の要約統計量の標本分布が仮定された多変量正規分布モデルから著しく逸脱しても、補正手法は良好なパワーと精度を維持する。