[論文レビュー] Quasi-Reliable Estimates of Effective Sample Size

Youhan Fang, Yudong Cao+1 more|arXiv (Cornell University)|May 10, 2017

Markov Chains and Monte Carlo Methods被引用数 4

ひとこと要約

本稿では、マルコフ連鎖モンテカルロ法（MCMC）における有効サンプルサイズ（ESS）を準信頼性のある方法で推定する手法を提案している。この手法は、すべての可能な観測可能変数における自己相関時間の最大値 τ_max を特定することに依存している。基底関数上での一般化固有値問題を用いて τ_max を推定することで、特に多峰性分布において個々の観測可能変数が誤って低い τ 値を示す可能性がある状況において、標準的な ESS 評価よりもより頑健なサンプリングの適正性の指標を提供する。

ABSTRACT

The efficiency of a Markov chain Monte Carlo algorithm might be measured by the cost of generating one independent sample, or equivalently, the total cost divided by the effective sample size, defined in terms of the integrated autocorrelation time. To ensure the reliability of such an estimate, it is suggested that there be an adequate sampling of state space--- to the extent that this can be determined from the available samples. A possible method for doing this is derived and evaluated.

研究の動機と目的

• MCMC における有効サンプルサイズ（ESS）推定の信頼性を高めること、特に標準的な ESS 評価が誤解を招く可能性がある多峰性分布において。
• 状態空間の不完全なサンプリングのリスクに対処するため、サンプリングカバレッジの「包括性」を測る指標を導入すること。
• すべての観測可能変数に対して可能な最大の統合自己相関時間 τ_max を推定する、計算的に実行可能な手法を開発すること。
• 個々の観測可能変数に基づく τ 評価よりも、より保守的かつ信頼性の高い収束診断を提供すること。
• τ_max が特定の観測可能変数の ESS や τ よりも、サンプリングの適正性をより良い指標として示すことを示すこと。

提案手法

• 状態空間上のすべての関数における最大の自己相関時間として τ_max を定義し、統合自己相関時間の上界として定式化する。
• 無限次元問題を有限次元の基底関数の集合を用いて近似することで、最大化される観測可能変数を近似し、一般化固有値問題に還元する。
• 前向き転送作用素とラグ窓付き自己共分散行列を含む一般化固有値問題を解き、τ_max を推定する。
• ガウス混合、ニューラルネットワーク、ロジスティック回帰などの複数のテストケースにこの手法を適用し、τ_max と個々の観測可能変数の τ、ESS を比較する。
• τ の推定にラグ窓法を用い、付録 A でより信頼性の高い推定を実現する代替導出を提示し、acor などの既存ツールよりも優れている。
• 平均二乗誤差や訓練誤差などの主要な指標の収束と τ_max の収束が一致することを示し、手法の妥当性を検証する。

(a) 5000 samples

実験結果

リサーチクエスチョン

• RQ1 最大の可能な自己相関時間 τ_max は、個々の観測可能変数に基づく τ 評価よりも、MCMC サンプリングの適正性をより信頼性高く示す指標として機能するか？
• RQ2 全関数の列挙を避けて、有限の MCMC サンプルから τ_max を効率的に推定する方法は何か？
• RQ3 多峰性分布において個々の観測可能変数が十分に混合しているように見えるが、実際には状態空間の一部が不完全にサンプリングされている場合、τ_max はその不完全性をどの程度検出できるか？
• RQ4 機械学習モデルにおいて、予測誤差や訓練損失といった実用的指標の収束と、τ_max の収束が一致するか？
• RQ5 基底関数上での一般化固有値アプローチは、ある程度の計算コストで τ_max を信頼性高く近似できるか？

主な発見

• 1ノードニューラルネットワークの例では、N > 2×10⁴ サンプルを経て τ_max が収束したが、q₁ や予測値といった個々の観測可能変数では τ ≈ 1 に留まり、誤った収束を示していた。
• ロジスティック回帰の例では、訓練誤差とテスト誤差の両方が N > 1000 で収束したが、個々の観測可能変数では τ ≈ 1 であり、独立性があるかのように誤って示していた。
• ニューラルネットワークモデルにおける予測の ESS は、N ≈ 100 で誤って非常に高かったが、τ_max ははるかに大きな N が必要で安定化した。
• 一般化固有値法により、τ_max が個々の τ 値よりも顕著に大きいことが特定され、緩やかな混合の検出に有効であることが確認された。
• 特に τ が大きい状況下では、acor プログラムの推定値よりも、本手法の τ_max 推定値がより信頼性が高かった。
• τ_max の収束が平均二乗誤差と予測精度の収束と一致したため、収束診断としての有効性が裏付けられた。

(b) Trajectories of $q_{1}$ and $q_{2}$