[論文レビュー] Heterogeneous Objectives: State-of-the-Art and Future Research

Richard Allmendinger, Joshua Knowles|arXiv (Cornell University)|Feb 26, 2021

Advanced Multi-Objective Optimization Algorithms被引用数 11

ひとこと要約

本稿は、計算複雑性、評価時間、または決定論的性質の面で異なる目的関数を有する異種目的関数を有する多目的最適化問題をレビューし、既存のアルゴリズムがこうした異種性に対処するのに不適切であると提言する。主に遅延の異種性（遅い目的関数 vs. 速い目的関数）に焦点を当て、補間ベースおよびスケジューリング手法を調査し、現実世界の応用における多様な異種性を扱うための新しいベンチマークフレームワークとアルゴリズムの開発を要請する。

ABSTRACT

Multiobjective optimization problems with heterogeneous objectives are defined as those that possess significantly different types of objective function components (not just incommensurable in units or scale). For example, in a heterogeneous problem the objective function components may differ in formal computational complexity, practical evaluation effort (time, costs, or resources), determinism (stochastic vs deterministic), or some combination of all three. A particularly challenging variety of heterogeneity may occur by the combination of a time-consuming laboratory-based objective with other objectives that are evaluated using faster computer-based calculations. Perhaps more commonly, all objectives may be evaluated computationally, but some may require a lengthy simulation process while others are computed from a relatively simple closed-form calculation. In this chapter, we motivate the need for more work on the topic of heterogeneous objectives (with reference to real-world examples), expand on a basic taxonomy of heterogeneity types, and review the state of the art in tackling these problems. We give special attention to heterogeneity in evaluation time (latency) as this requires sophisticated approaches. We also present original experimental work on estimating the amount of heterogeneity in evaluation time expected in many-objective problems, given reasonable assumptions, and survey related research threads that could contribute to this area in future.

研究の動機と目的

• 評価時間、計算複雑性、または決定論的性質の面で異なる目的関数を有する多目的最適化における異種目的関数の認識を高めること。
• 相補性を超える異種性の種類を特定・分類すること、具体的には遅延、計算コスト、確率的性質（ステオキスティック性）を含む。
• 特に進化的および補間支援手法において、遅延の異種性に対処するための既存のアルゴリズム的手法をレビューすること。
• 多様な異種性タイプを同時に扱う研究の不足と、カスタマイズされたベンチマークおよび性能指標の必要性を強調すること。
• 多数の目的関数を有する問題において、複数の異種性タイプを同時に処理できるアルゴリズムの今後の研究を要請すること。

提案手法

• 評価時間（遅延）、計算複雑性、決定論的性質（確率的 vs. 決定論的）の差異を含む、異種性タイプの分類法を提唱する。
• 高速な目的関数に基づいて学習されたモデルを用いて遅い目的関数の評価を加速する補間支援進化的アルゴリズム（例：T-SAEA）をレビューする。
• アイドル時間の最小化とリソース利用効率の向上を目的として、マルチ目的ワークフローにおけるスケジューリングおよびバッチ最適化技術を適用する。
• 妥当な仮定の下で、多数の目的関数を有する問題における期待される遅延の異種性についての実験的分析を実施する。
• 移行学習および次元削減を活用して、相関の高い高価な目的関数を除去することで、目的関数を均質化する。
• リソース制約付きスケジューリングおよびキューイング理論を統合し、評価順序の最適化と全体実行時間の短縮を図る。

実験結果

リサーチクエスチョン

• RQ1 遅延、計算コスト、確率的性質といった異なる種類の異種性が、多目的最適化アルゴリズムの性能にどのように影響を与えるか。
• RQ2 評価時間に著しい差がある問題に適用された際、現在の進化的および補間ベースの手法にどのような制限があるか。
• RQ3 スケジューリングおよびバッチ処理技術を、異種目的関数の評価順序最適化にどのように適合させられるか。
• RQ4 次元削減および相関分析は、異種多目的最適化問題の単純化にどのような役割を果たすか。
• RQ5 さまざまな異種性タイプを模擬できる、構成可能な異種性を有する問題を評価するための新しいベンチマークフレームワークは何か。

主な発見

• 特に顕著な遅延差を有する異種目的関数は、クローズドループ最適化やシミュレーションベース設計といった現実世界の応用で一般的に見られる。
• 既存の研究は主に遅延の異種性に注目しており、補間支援手法が遅い目的関数の評価時間を短縮する上で有望であることが示されている。
• 補間モデリングとスケジューリングの組み合わせは、遅い目的関数と速い目的関数を併せ持つ多目的最適化問題において、著しく効率を向上させることができる。
• 目的関数空間の分析による次元削減は、冗長または高相関の高い高価な目的関数を除去することで問題を単純化できるが、最適領域付近での精度損失のリスクを伴う。
• 現在のベンチマークツールおよび性能指標は、異種問題に対するアルゴリズムの評価に不十分であり、拡張または再設計が求められる。
• 公平で意味のあるアルゴリズム比較を可能にするために、さまざまな異種性タイプを模擬できる構成可能なテスト問題の開発が急務である。