[論文レビュー] Bayesian Optimisation vs. Input Uncertainty Reduction

Juan Ungredda, Michael Pearce+1 more|arXiv (Cornell University)|May 31, 2020

Simulation Techniques and Applications参考文献 8被引用数 4

ひとこと要約

本稿では、入力の不確実性を低減し、解の品質を向上させるために、シミュレーション実行と実世界のデータ収集の間で動的にバランスをとる、新しいベイジアン最適化フレームワークであるベイジアン情報収集と最適化（BICO）を提案する。価値情報のアプローチを用いることで、各反復においてシミュレーションかデータ収集かを自動的に選択し、最適なリソース配分の固定割合を事前に知らなくても、その最適な配分と同等の性能を達成する。

ABSTRACT

Simulators often require calibration inputs estimated from real world data and the quality of the estimate can significantly affect simulation output. Particularly when performing simulation optimisation to find an optimal solution, the uncertainty in the inputs significantly affects the quality of the found solution. One remedy is to search for the solution that has the best performance on average over the uncertain range of inputs yielding an optimal compromise solution. We consider the more general setting where a user may choose between either running simulations or instead collecting real world data. A user may choose an input and a solution and observe the simulation output, or instead query an external data source improving the input estimate enabling the search for a more focused, less compromised solution. We explicitly examine the trade-off between simulation and real data collection in order to find the optimal solution of the simulator with the true inputs. Using a value of information procedure, we propose a novel unified simulation optimisation procedure called Bayesian Information Collection and Optimisation (BICO) that, in each iteration, automatically determines which of the two actions (running simulations or data collection) is more beneficial. Numerical experiments demonstrate that the proposed algorithm is able to automatically determine an appropriate balance between optimisation and data collection.

研究の動機と目的

• 入力パラメータの不確実性が解の品質を低下させるシミュレーション最適化の課題に対処すること。
• 解のロバスト性を向上させるために、知的にシミュレーション実験と実世界のデータ収集のバランスをとる統合フレームワークを開発すること。
• 限られたリソースをシミュレーションとデータ収集の間で、最適でない固定予算割り当てを避けるために、自動的かつ適応的に割り当てる仕組みを可能にすること。
• ベイジアン推論とガウス過程を用いて、シミュレータの入力における不確実性をモデル化・低減すること。
• 提案手法の性能を、合成的および実世界のシミュレーション問題において、固定配分戦略と比較して評価すること。

提案手法

• BICOは、シミュレータの応答と入力パラメータの不確実性の両方をガウス過程を用いてモデル化するベイジアンフレームワークを用いる。
• 期待される解の品質の向上を評価するために、価値情報基準を適用し、シミュレーション実行または実世界データ収集から得られる期待利益を計算する。
• 各反復において、最適解の品質の期待向上を最大にするアクション（シミュレーションまたはデータ収集）を選択する。
• 解空間と入力パラメータ空間の両方をカバーする共同のスレーブモデルを採用し、逐次的ベイジアン推論を用いて信念を更新する。
• シミュレータ出力の不確実性と入力パラメータの不確実性の両方を考慮した、知識勾配にインspiredされた獲得関数を用いる。
• 入力不確実性下での期待利益の効率的計算を実装し、リアルタイム意思決定を可能にする。

実験結果

リサーチクエスチョン

• RQ1 統合されたベイジアン最適化フレームワークは、入力不確実性下で、自動的にシミュレーションとデータ収集のバランスをとり、解の品質を向上させることができるか？
• RQ2 BICOの性能は、事前にリソースをデータ収集に割り当てる固定予算配分戦略と比べてどうか？
• RQ3 解の品質とリソース効率の観点から、シミュレーション作業とデータ収集の最適なトレードオフは何か？
• RQ4 入力不確実性が高い場合にはBICOが自動的にデータ収集に多くのリソースを割り当て、入力がよく推定されている場合にはシミュレーションに重点を置く適応的リソース配分が可能か？
• RQ5 BICOは、データとシミュレーションの最適な割合を事前に知らずとも、ほぼ最適な性能を達成できるか？

主な発見

• 最適なリソース配分の固定割合が事前に不明であっても、BICOはその最適な配分と同等の解の性能を達成する。
• 1パラメータのテストケースでは、2パラメータケースよりもデータ収集に多くのリソースを割り当てており、おそらく高次元の入力空間ではモデルの信頼性を高める必要があるためである。
• 新聞売り手問題において、BICOは自動的に予算の30％を超えてデータ収集にリソースを割り当てることを避け、固定配分戦略で見られる非効率な範囲を回避した。
• BICOは合成的および実世界のシミュレーション問題の両方で、最適化コストの信頼区間をきめ細かく維持するという、頑健な性能を示した。
• BICOの適応的リソース配分は、事前に指定された最良のデータ収集予算と非常に近い性能を達成しており、実用的価値が明確に示された。
• BICOは、ナーディアなアプローチや固定配分アプローチよりも、入力不確実性を効果的に低減しながら、高品質なシミュレーション最適化を実現した。