[論文レビュー] Analyzing Stochastic Computer Models: A Review with Opportunities

Evan Baker, Pierre Barbillon+11 more|arXiv (Cornell University)|Feb 4, 2020

Advanced Multi-Objective Optimization Algorithms被引用数 4

ひとこと要約

この論文は、擬似乱数生成による内在的ランダムネスを有するシミュレータである確率的コンピュータモデルの分析のための統計的手法をレビューしている。主にガウス過程エミュレータとその拡張に焦点を当て、確率的シミュレータにおける設計、キャリブレーション、不確実性の定量化の実用的アプローチを提示する。非定数ノイズのモデリング、マルチファシリティフレームワーク、分散低減の分野における未解決の課題と機会を強調している。

ABSTRACT

In modern science, computer models are often used to understand complex phenomena, and a thriving statistical community has grown around analyzing them. This review aims to bring a spotlight to the growing prevalence of stochastic computer models -- providing a catalogue of statistical methods for practitioners, an introductory view for statisticians (whether familiar with deterministic computer models or not), and an emphasis on open questions of relevance to practitioners and statisticians. Gaussian process surrogate models take center stage in this review, and these, along with several extensions needed for stochastic settings, are explained. The basic issues of designing a stochastic computer experiment and calibrating a stochastic computer model are prominent in the discussion. Instructive examples, with data and code, are used to describe the implementation of, and results from, various methods.

研究の動機と目的

• 確率的コンピュータモデル、特に非定数ノイズを有するものに対して、実務家および統計学者がアクセスしやすく最新の統計ツールを提供すること。
• 特に高次元または複雑な設定において、標準的回帰法および決定的エミュレーション手法が確率的シミュレータに適用された場合の限界を浮き彫りにすること。
• 特にエージェントベース型および複雑なシミュレーション文脈における、設計、キャリブレーション、不確実性の定量化に関する未解決の研究課題を特定・強調すること。
• マルチファシリティモデリング、分散低減技術、決定的および確率的シミュレータを組み合わせたハイブリッドモデルなどの高度な手法の使用を促進すること。
• 現在の手法を整理し、ギャップを特定し、データとコードを用いた具体例を提供することで、確率的シミュレータ分析における統計的研究を奨励すること。

提案手法

• ガウス過程（GP）の代理モデルを、確率的シミュレータにおける平均応答と残差分散のモデリングの中心フレームワークとして用い、標準的GP手法を非定数ノイズに対応させる拡張を実施する。
• 階層的モデリング戦略を用いて、平均関数 $ M(x) $ と分散 $ \sigma_v^2(x) $ を同時にモデリングし、柔軟な不確実性の定量化を可能にする。
• 繰返しと入力空間の探索のバランスを取る設計戦略を採用し、繰返しとカバー範囲のトレードオフを認識する。
• 低精度と高精度のシミュレータを統合するマルチファシリティモデリングアプローチを導入し、計算予算が限られた条件下でも効率性と正確性を向上させる。
• 分散低減技術を活用し、よりノイジーな出力の推定を、よりノイズの少ない出力からの情報を用いて改善する。特に、分位数の推定を向上させる。
• 繰返しデータを用いて、異分散性の構造 $ \sigma_v^2(x) $ を推定・モデリングし、定数分散の仮定を避ける。

実験結果

リサーチクエスチョン

• RQ1 ガウス過程エミュレータは、どのように非定数分散を有する確率的コンピュータモデルに適応可能か。また、不確実性の定量化にどのような影響を及えるか。
• RQ2 計算制約のもとで、繰返しと入力空間カバレッジのバランスを取る効果的な設計戦略は何か。特に高次元設定において。
• RQ3 確率的シミュレータのキャリブレーションにおいて、モデル不適合を適切に扱うにはどうすればよいか。また、異なる条件下で最も効果的な手法は何か。
• RQ4 マルチファシリティモデリングと分散低減技術は、確率的シミュレータ分析の効率性と正確性をどのように向上させるか。
• RQ5 深層学習やニューラルネットワークを確率的シミュレータに適用する際の主な課題は何か。また、それらはガウス過程手法を補完または拡張する可能性は何か。

主な発見

• ガウス過程エミュレータは、確率的シミュレータの平均と分散のモデリングに有効であるが、決定的ケースに比べて、モデル不適切性の診断手法はまだ十分に発展していない。
• ノイズ分散 $ \sigma_v^2(x) $ の推定には繰返しが不可欠であるが、繰返しと入力空間の探索のトレードオフが、特に高次元において実験設計を複雑にする。
• 現在の確率的シミュレータのキャリブレーション手法には、万能な解決策がなく、例えばABC法と階層的モデリングの間で実証的比較が必要であり、ベストプラクティスの指針を得るためである。
• マルチファシリティモデリングや決定的・確率的シミュレータの統合は、シミュレーション予算が限られた状況でも効率性を高める有効な道筋を提供する。
• 分散低減技術は、他の文脈では確立されているが、エージェントベースモデルや確率的シミュレータではまだ十分に活用されていないため、有望な研究分野である。
• よりノイズの少ない出力を用いて、よりノイジーな出力を改善する、たとえば平均値を用いて分位数推定を向上させる戦略は、正確性を向上させることができ、文献における実証的結果でも裏付けられている。