[論文レビュー] Multi-Information Source Optimization with General Model Discrepancies

Matthias Poloczek, Jialei Wang+1 more|arXiv (Cornell University)|Mar 1, 2016

Advanced Multi-Objective Optimization Algorithms参考文献 22被引用数 3

ひとこと要約

本論文は、モデルの不一致を伴う複数情報源問題に対する新しい最適化アルゴリズムを提案し、情報の価値の厳密な分析を用いて探索コストと期待される利益のバランスをとる。この手法は、探索コストを削減しながらも、最先端の手法を上回る高い目的関数値を達成する。

ABSTRACT

In the multi-information source optimization problem our goal is to optimize a complex design. However, we only have indirect access to the objective value of any design via information sources that are subject to model discrepancy, i.e. whose internal model inherently deviates from reality. We present a novel algorithm that is based on a rigorous mathematical treatment of the uncertainties arising from the model discrepancies. Its optimization decisions rely on a stringent value of information analysis that trades off the predicted benefit and its cost. We conduct an experimental evaluation that demonstrates that the method consistently outperforms other state-of-the-art techniques: it finds designs of considerably higher objective value and additionally inflicts less cost in the exploration process.

研究の動機と目的

• 目的関数の値が、固有のモデル不一致を伴う複数の情報源からのみ入手可能な複雑な設計の最適化の課題に対処すること。
• 情報源間のモデル不一致に起因する不確実性を厳密に取り入れた意思決定フレームワークの開発。
• 探索コストを最小限に抑えながら、情報源の賢明な選択によって目的関数値の期待される改善を最大化すること。

提案手法

• 本手法は、情報源間のモデル不一致に起因する不確実性を数学的に取り扱う。
• 情報の価値分析を用いて、各情報源のクエリの期待される利益をそのコストに対して定量化する。
• 予測された改善度と取得コストのトレードオフに基づき、動的に情報源を選択するアルゴリズム。
• 不一致を現実からの確率的ずれとしてモデル化し、確率的最適化フレームワークに統合する。
• ベイズ推論とコストを考慮した獲得関数を組み合わせ、高価値・低コストのクエリを優先する。

実験結果

リサーチクエスチョン

• RQ1 目的関数の評価が、不正確な複数の情報源からのみ入手可能な場合、複雑な設計をどのように効果的に最適化できるか。
• RQ2 モデル不一致の下で、探索コストと目的関数値の期待される改善との最適なトレードオフは何か。
• RQ3 モデル不一致に起因する不確実性を、最適化意思決定プロセスに厳密にモデル化し統合するにはどうすればよいか。

主な発見

• 提案手法は、複数情報源最適化における最先端技術を常に上回る高い目的関数値を達成する。
• 探索プロセス全体のコストを低減し、より少ない数で戦略的に選択されたクエリを必要とする。
• 情報の価値分析により、より効率的な情報源選択が可能となり、高品質な設計への収束が早くなる。
• 本手法は、モデル不一致の程度が異なる多様な問題例においても、強固な性能を示す。