[論文レビュー] A Principled Method for the Creation of Synthetic Multi-fidelity Data Sets

Clyde Fare, Peter J. Fenner+1 more|arXiv (Cornell University)|Aug 11, 2022

Advanced Multi-Objective Optimization Algorithms被引用数 4

ひとこと要約

本論文は、コアジョイナル化を用いてマルチアウトプットガウス過程を拡張することで、合成マルチフィデリティデータセットを体系的かつ原理的につくる手法を提示する。この手法により、合成フィデリティとリファレンスデータの間の相関を制御可能にし、代替的品質が調整可能なマルチフィデリティ最適化アルゴリズムのベンチマークが可能になる。これにより、解析的関数と現実世界のデータセットの間のギャップが埋められる。

ABSTRACT

Multifidelity and multioutput optimisation algorithms are of active interest in many areas of computational design as they allow cheaper computational proxies to be used intelligently to aid experimental searches for high-performing species. Characterisation of these algorithms involves benchmarks that typically either use analytic functions or existing multifidelity datasets. However, analytic functions are often not representative of relevant problems, while preexisting datasets do not allow systematic investigation of the influence of characteristics of the lower fidelity proxies. To bridge this gap, we present a methodology for systematic generation of synthetic fidelities derived from preexisting datasets. This allows for the construction of benchmarks that are both representative of practical optimisation problems while also allowing systematic investigation of the influence of the lower fidelity proxies.

研究の動機と目的

• 代替的品質の制御可能な変動を許容する、マルチフィデリティ最適化アルゴリズムのための体系的かつ代表的なベンチマークの不足に対処すること。
• 低フィデリティプロキシと真値の間の相関がアルゴリズムのパフォーマンスに与える影響を体系的に調査することを可能にすること。
• 現実世界の問題に代表されるが、リファレンスデータとの統計的関係が制御可能な合成フィデリティを生成すること。
• 現実のプロキシ特性を反映しつつ、フィデリティ相関を正確に調整可能な柔軟な生成フレームワークを提供すること。

提案手法

• 本手法は、複数出力ガウス過程（MOGP）にコアジョイナル化カーネルを用いてフィデリティ間相関をモデル化し、既存の高フィデリティおよび低フィデリティデータで学習する。
• MOGPのハイパーパrameterは、リファレンス関数およびプロキシ関数の固有特性（例：長尺度）を捉えるために、最大対数マージナル尤度に基づいて最適化される。
• 既存のモデル構造を踏まえ、合成フィデリティを表す新しい出力次元をMOGPに追加する。
• 合成フィデリティのサンプルは、既知のフィデリティデータと事前分布からのサンプルの線形結合として表現され、所望の相関レベルを達成するように係数を求める。
• 相関制御は、ターゲットピアソン相関と一致するように係数を求める順次コレスキーに基づく手法により達成される。
• 本手法は、生成された合成フィデリティがデータと統計的に整合的であることを保証するとともに、相関パラメータによる任意のフィデリティ品質のチューニングを可能にする。

実験結果

リサーチクエスチョン

• RQ1 低フィデリティプロキシと真値の間の相関を体系的に変化させることのできる、合成マルチフィデリティデータセットをどのように生成できるか？
• RQ2 合成フィデリティは、現実の関数的特性をどれだけ正確に再現できるか、かつフィデリティ品質をどれだけ正確に制御できるか？
• RQ3 プロキシデータ内のフィデリティ間相関の異なるレベルにおいて、マルチフィデリティ最適化アルゴリズムのパフォーマンスはどのように変化するか？
• RQ4 提案手法は、現実世界の問題に代表されるが、厳密なアルゴリズムベンチマークに適した合成データセットを生成できるか？

主な発見

• 本手法は、真値および既存の低フィデリティプロキシと、ユーザーが定めた相関レベルを示す合成フィデリティを成功裏に生成した。
• 合成フィデリティの事後分布からのサンプルは、既知のフィデリティデータと事前サンプルの線形結合として表現され、相関の解析的制御が可能である。
• 本手法により、現実世界の最適化問題に代表されるが、代替的品質の変動を体系的に行えるベンチマークデータセットの作成が可能になった。
• 本手法は汎用的であり、関数構造に依存せず、既存の単一またはマルチフィデリティデータセットに適用可能である。
• リウおよびカーリンのテスト関数を用いた実験結果から、リファレンス関数との相関度合いが異なる多様な合成フィデリティを生成可能であることが示された。
• フレームワークは、フィデリティコストと相関の間の制御可能なトレードオフを持つ合成フィデリティの生成をサポートし、マルチフィデリティ最適化におけるレグRET曲線のより深い分析を可能にした。