[論文レビュー] Evolutionary Dynamic Multi-objective Optimization Via Regression Transfer Learning

Zhengzhong Wang, Min Jiang+4 more|arXiv (Cornell University)|Oct 19, 2019

Advanced Multi-Objective Optimization Algorithms参考文献 28被引用数 9

ひとこと要約

本稿では、環境変化後の高品質な初期集団を予測するために回帰転移学習を活用する、RTLP-DMOAと呼ばれる新しい進化的動的多目的最適化アルゴリズムを提案する。過去の集団データを再利用して、新しい環境における目的値を予測する回帰モデルを訓練することで、最先端の手法と比較して収束性と多様性が顕著に向上する。

ABSTRACT

Dynamic multi-objective optimization problems (DMOPs) remain a challenge to be settled, because of conflicting objective functions change over time. In recent years, transfer learning has been proven to be a kind of effective approach in solving DMOPs. In this paper, a novel transfer learning based dynamic multi-objective optimization algorithm (DMOA) is proposed called regression transfer learning prediction based DMOA (RTLP-DMOA). The algorithm aims to generate an excellent initial population to accelerate the evolutionary process and improve the evolutionary performance in solving DMOPs. When an environmental change is detected, a regression transfer learning prediction model is constructed by reusing the historical population, which can predict objective values. Then, with the assistance of this prediction model, some high-quality solutions with better predicted objective values are selected as the initial population, which can improve the performance of the evolutionary process. We compare the proposed algorithm with three state-of-the-art algorithms on benchmark functions. Experimental results indicate that the proposed algorithm can significantly enhance the performance of static multi-objective optimization algorithms and is competitive in convergence and diversity.

研究の動機と目的

• 時間とともに変化する矛盾する目的関数を有する動的多目的最適化問題（DMOPs）の課題に対処すること。
• 環境の変化に適応できない従来の静的多目的最適化アルゴリズム（SMOAs）の限界を克服すること。
• 知的な初期集団生成により、収束の加速と多様性の維持を通じてDMOPsにおける進化的性能を向上させること。
• 動的環境における独立同分布（IID）仮定の不成立を克服する手法を開発すること。
• 回帰モデリングと転移学習を統合し、環境変化後の迅速な再最適化に適した優れた解を予測すること。

提案手法

• 過去の環境における歴史的集団データを用いて、新しい環境における目的値を予測する回帰転移学習モデルを構築する。
• 過去のパレート最適解およびその目的値を再利用し、変化する問題のランドスケープに一般化可能な回帰予測子を訓練する。
• 訓練済みの回帰モデルを用いて、新しい環境における候補解の目的値を予測する。
• 予測された目的値が最も優れた解を選別し、次期進化的サイクルの初期集団とする。
• 予測に基づく初期集団を静的多目的進化的アルゴリズム（例：RM-MEDA）に統合し、動的環境下での性能を向上させる。
• ドメイン適応の原則を用いて、非IIDである場合でも異なる時系列における解の分布を一致させる。

実験結果

リサーチクエスチョン

• RQ1 回帰ベースの転移学習は、動的多目的最適化における高品質な初期集団を効果的に予測できるか？
• RQ2 ベンチマーク関数全体を通じて、提案手法RTLP-DMOAは最先端のDMOAsと比較して収束性および多様性指標で優れているか？
• RQ3 回帰転移学習の統合は、静的多目的アルゴリズムの動的環境下での性能を向上させるか？
• RQ4 従来の転移学習の限界を、非IIDの解分布においてどの程度克服できるか？
• RQ5 予測モデルは、変化頻度や強度が異なるさまざまな動的テスト設定においても頑健性を維持できるか？

主な発見

• RTLP-DMOAは、逆ジェネレーショナルディスタンス（MIGD）指標において16のテストインスタンスのうち13つで最良の収束性能を達成した。
• すべてのテスト関数においてnt=10、τt=5の条件下で、ベースラインのRM-MEDAと比較してMIGD値が22.66%から96.39%まで顕著に改善された。
• ハイパーボリューム指標（MS）において、16のインスタンスのうち13つで最高値を記録し、すべての設定でFDA4およびFDA5で完全スコア（1.0000）を達成した。
• アブレーションスタディの結果、RTLP-RM-MEDAはMS値でRM-MEDAを0.08%から39.88%まで上回り、MIGD低減率で最大96.39%の改善を示した。
• RTLP-DMOAは、特に三目的問題であるFDA4およびFDA5において優れた多様性と収束性を維持した。
• 変化頻度（τt）や変化回数（nt）が異なるさまざまな環境設定においても、一貫した性能向上を示し、頑健性を示した。