[論文レビュー] Practical Bayesian Optimization for Transportation Simulators

Laura Luise Schultz, Vadim Sokolov|arXiv (Cornell University)|Oct 8, 2018

Simulation Techniques and Applications参考文献 30被引用数 3

ひとこと要約

本論文は、複雑で高次元の交通シミュレータのキャリブレーションのための、次元削減を組み込んだ完全ベイズ最適化フレームワークを提案する。アクティブラーニング、ガウス過程回帰、および線形／非線形次元削減（アクティブサブスペースとニューラルネットワーク）を統合することで、計算コストを低減し、サンプル効率を向上させる並列化された最適化を実現し、ブルームングトン（イリノイ州）の実際のマルチモーダルネットワークのキャリブレーションを平均6.4分の真の需要と一致する精度で達成した。

ABSTRACT

We provide a method to solve optimization problem when objective function is a complex stochastic simulator of an urban transportation system. To reach this goal, a Bayesian optimization framework is introduced. We show how the choice of prior and inference algorithm effect the outcome of our optimization procedure. We develop dimensionality reduction techniques that allow for our optimization techniques to be applicable for real-life problems. We develop a distributed, Gaussian Process Bayesian regression and active learning models that allow parallel execution of our algorithms and enable usage of high performance computing. We present a fully Bayesian approach that is more sample efficient and reduces computational budget. Our framework is supported by theoretical analysis and an empirical study. We demonstrate our framework on the problem of calibrating a multi-modal transportation network of city of Bloomington, Illinois. Finally, we discuss directions for further research.

研究の動機と目的

• 解析的勾配がなく、評価に計算コストがかかる高次元で確率的な交通シミュレータのキャリブレーションという課題に対処すること。
• 事前分布の誤指定に対する不確実性の定量化と感度分析を可能にする完全ベイズ的手法の開発。
• アクティブサブスペースと深層学習に基づく次元削減技術を用いて、シミュレータキャリブレーションにおける次元の呪いを克服すること。
• 並列バッチ処理とハイパフォーマンスコンピューティングを活用したスケーラブルかつ分散型最適化を実現し、交通分野の研究・計画への実用的導入を可能にすること。
• 従来のメタヒューリスティック手法に比べてサンプル効率と精度に優れる理論的根拠と実証的妥当性を持つフレームワークの提供。

提案手法

• フレームワークは、シミュレータのブラックボックス的目的関数をモデル化するため、完全ベイズ的ハイパーパramータ推論を用いたガウス過程回帰を採用する。
• アクティブラーニングのための獲得関数として期待改善（EI）を用い、最も情報量の多いパラメータセットを逐次的に選択して評価する。
• アクティブサブスペースによる線形次元削減により、シミュレータ出力が最も変動する低次元部分空間を特定し、最適化の次元を低減する。
• ニューラルネットワークによる非線形次元削減により、高次元パラメータを予測精度を保持したまま低次元の潜在空間にマッピングする。
• 分散型でバッチ処理された最適化戦略により、シミュレータ実行を並列化し、収束を加速するとともに、ハイパフォーマンスコンピューティング環境を支援する。
• 制約付きパラメータ範囲を用いて事前知識を統合し、初期実験計画にはラテンハイパーボリュームサンプリング（LHS）を用いる。

実験結果

リサーチクエスチョン

• RQ1 解析的勾配のない高次元で確率的な交通シミュレータに対して、どのようにベイズ最適化を効果的に適用できるか？
• RQ2 頻度主義的またはヒューリスティック手法と比較して、完全ベイズ的手法はサンプル効率と不確実性の定量化をどの程度向上させるか？
• RQ3 アクティブサブスペースとニューラルネットワークは、キャリブレーション精度を保持したまま、複雑な交通モデルパラメータの次元を効果的に削減できるか？
• RQ4 SPSA や遺伝的アルゴリズムなどの従来のメタヒューリスティック最適化手法と比較して、提案フレームワークの性能とスケーラビリティはいかがなっているか？
• RQ5 分散型でバッチ処理されたベイズ最適化フレームワークの計算オーバーヘッドと収束速度は、実世界の都市交通キャリブレーションにおいてどの程度か？

主な発見

• フレームワークは24時間の期間にわたり、真の需要と平均6.4分以内の誤差でキャリブレーション精度を達成し、実世界データとの高い整合性を示した（標準偏差5分）。
• アクティブサブスペースの使用により、パラメータ空間の有効次元が低減され、高次元環境下でも効率的な最適化が可能になった。
• 完全ベイズ的手法により、不確実性の定量化が堅牢に実現され、事前分布への感度分析が可能となり、モデルの信頼性が向上した。
• 並列バッチ処理戦略により、ウォルクロック時間が顕著に短縮され、ハイパフォーマンスコンピューティングクラスタ上での大規模シミュレータへの実用的適用が可能になった。
• 非線形次元削減にニューラルネットワークを統合したことで、複雑で非線形なシミュレータのランドスケープにおいて、線形手法に比べてキャリブレーション精度がさらに向上した。
• 実証的結果から、提案手法は従来のメタヒューリスティックアプローチに比べてサンプル効率に優れ、最適キャリブレーションに到達するためのシミュレータ評価回数を削減できた。