[論文レビュー] Multi-Objective Simultaneous Optimistic Optimization

Abdullah Al-Dujaili, Suresh Sundaram|arXiv (Cornell University)|Dec 26, 2016

Advanced Multi-Objective Optimization Algorithms参考文献 45被引用数 3

ひとこと要約

本稿では、ブラックボックス多目的最適化に、多腕バンディットを用いた階層的分割により意思決定空間を階層的に分割する、木構造ベースのアルゴリズムであるMulti-Objective Simultaneous Optimistic Optimization（MO-SOO）を提案する。MO-SOOは、有望な逐次的意思決定を適用し、有限時間収束を達成し、εインジケーターに対する決定的上界を有し、漸近的一貫性を示す。300のベンチマーク問題において、SMS-EMOAなどの最先端アルゴリズムと同等の性能を発揮する。

ABSTRACT

Optimistic methods have been applied with success to single-objective optimization. Here, we attempt to bridge the gap between optimistic methods and multi-objective optimization. In particular, this paper is concerned with solving black-box multi-objective problems given a finite number of function evaluations and proposes an optimistic approach, which we refer to as the Multi-Objective Simultaneous Optimistic Optimization (MO-SOO). Popularized by multi-armed bandits, MO-SOO follows the optimism in the face of uncertainty principle to recognize Pareto optimal solutions, by combining several multi-armed bandits in a hierarchical structure over the feasible decision space of a multi-objective problem. Based on three assumptions about the objective functions smoothness and hierarchical partitioning, the algorithm finite-time and asymptotic convergence behaviors are analyzed. The finite-time analysis establishes an upper bound on the Pareto-compliant unary additive epsilon indicator characterized by the objectives smoothness as well as the structure of the Pareto front with respect to its extrema. On the other hand, the asymptotic analysis indicates the consistency property of MO-SOO. Moreover, we validate the theoretical provable performance of the algorithm on a set of synthetic problems. Finally, three-hundred bi-objective benchmark problems from the literature are used to substantiate the performance of the optimistic approach and compare it with three state-of-the-art stochastic algorithms, namely MOEA/D, MO-CMA-ES, and SMS-EMOA in terms of two Pareto-compliant quality indicators. Besides sound theoretical properties, MO-SOO shows a performance on a par with the top performing stochastic algorithm, viz. SMS-EMOA.

研究の動機と目的

• 有限な評価予算におけるブラックボックス多目的最適化の課題に対処すること。
• 元来単目的最適化で用いられていた有望な逐次的意思決定を、多目的設定に拡張すること。
• 滑らかさおよび階層的分割の仮定の下で、連続的多目的問題に対する理論的収束保証を提供すること。
• 大規模なベンチマークスイートを用いて、最先端の確率的アルゴリズムと比較してMO-SOOの実験的妥当性を検証すること。
• 特に、パラメータの対立次元がアルゴリズムの性能に与える影響を分析すること。

提案手法

• MO-SOOは、複数のスケールにわたる意思決定空間の分割を、多腕バンディットの階層的ツリーとして用いる。
• 上位信頼区間に基づいて、拡張のためのノード選択に「不確実性の面前での有望さ」の原則を適用する。
• 目的空間におけるノード同士の比較に、非支配的集合を維持するND(⋅)演算子を用いる。
• 有限時間収束は、関数の滑らかさおよび対立次元に依存する、一元的加法的εインジケーターの上界を用いて分析する。
• 同じ仮定の下で漸近的一貫性を証明し、真のパレートフロントへの収束を示す。
• 深さに依存する探索戦略を採用し、各反復における訪問可能なレベル数を制御する最大深さ関数 h_max(t) を用いる。

実験結果

リサーチクエスチョン

• RQ1 有望な逐次的意思決定は、多目的ブラックボックス最適化に効果的に拡張可能か？
• RQ2 連続的多目的問題において、有限時間性能および漸近的収束に対する理論的保証は、どのようなものとなるか？
• RQ3 パラメータの対立次元（パレートフロントの端点に対する相対的な構造）が、アルゴリズムの収束および性能に与える影響は何か？
• RQ4 MO-SOOは、MOEA/D、MO-CMA-ES、SMS-EMOAなどの最先端の確率的多目的最適化アルゴリズムと、実験的に比較してどのように差がつくか？
• RQ5 弱い構造的で多峰的な目的関数を扱う場合、MO-SOOの限界は何か？

主な発見

• MO-SOOは、目的関数の滑らかさおよびパレートフロントの対立次元に依存する、一元的加法的εインジケーターに対する決定的上界を達成する。
• アルゴリズムは、提示された仮定の下で漸近的一貫性を示し、真のパレートフロントへの収束を示す。
• 300の二目的ベンチマーク問題において、MO-SOOの性能は、二つのパレート適合品質指標において、最良のSMS-EMOAアルゴリズムと同等であった。
• 弱い構造的で多峰的な目的関数を有する問題は、MO-SOOにとって挑戦的であり、これは近似的最適性次元および逐次的分割に依存するためである。
• 理論的上界は実験的結果とよく一致しており、理論的分析の妥当性を裏付けている。
• 反復回数および深さ訪問回数は、意思決定空間の次元および対立次元に強く影響を受けるが、次元が高くなると計算コストが増加する。