[論文レビュー] Few-shots Parallel Algorithm Portfolio Construction via Co-evolution

Ke Tang, Shengcai Liu+2 more|arXiv (Cornell University)|Jul 1, 2020

Metaheuristic Optimization Algorithms Research参考文献 42被引用数 5

ひとこと要約

本稿では、少数の訓練インスタンスでの学習に適した汎用的で並列アルゴリズムパフォルティオ（PAP）を構築するために、アルゴリズムの構成と合成インスタンスを同時に進化させる共進化フレームワーク「パラメータ化探索の共進化（CEPS）」を提案する。CEPSは、敵対的かつ多様な合成インスタンスを用いて構成を露光させることで一般化性能を向上させ、TSPおよびVRPSPDTWにおいて未確認の問題で優れた性能と新たな最良解を達成した。

ABSTRACT

Generalization, i.e., the ability of solving problem instances that are not available during the system design and development phase, is a critical goal for intelligent systems. A typical way to achieve good generalization is to learn a model from vast data. In the context of heuristic search, such a paradigm could be implemented as configuring the parameters of a parallel algorithm portfolio (PAP) based on a set of training problem instances, which is often referred to as PAP construction. However, compared to traditional machine learning, PAP construction often suffers from the lack of training instances, and the obtained PAPs may fail to generalize well. This paper proposes a novel competitive co-evolution scheme, named Co-Evolution of Parameterized Search (CEPS), as a remedy to this challenge. By co-evolving a configuration population and an instance population, CEPS is capable of obtaining generalizable PAPs with few training instances. The advantage of CEPS in improving generalization is analytically shown in this paper. Two concrete algorithms, namely CEPS-TSP and CEPS-VRPSPDTW, are presented for the Traveling Salesman Problem (TSP) and the Vehicle Routing Problem with Simultaneous Pickup-Delivery and Time Windows (VRPSPDTW), respectively. Experimental results show that CEPS has led to better generalization, and even managed to find new best-known solutions for some instances.

研究の動機と目的

• 少数の訓練インスタンスしか入手できない状況において、並列アルゴリズムパフォルティオ（PAP）構築における一般化性能の低さという課題に対処すること。
• 構成チューニング中に動的に多様で困難な問題インスタンスを生成することで、限られた訓練インスタンスへの過剰適合を回避すること。
• 問題インスタンスの集合が小さく、問題クラス全体を代表しておらず、実世界のシナリオに不適切な状況でも効果的なPAP構築を可能にすること。
• TSPやVRPSPDTWのようなNP困難な組合せ最適化問題の未確認インスタンスに対して、ヒューリスティックソルバーのロバスト性と適応性を向上させること。
• 構成とインスタンスジェネレータの両方を同時に進化させる共進化フレームワークを構築し、全体のソルバーパフォーマンスと一般化性能を向上させること。

提案手法

• 2つの集団（PAPの構成と合成問題インスタンス）が競争的相互作用を通じて共進化する共進化システムを提案する。
• 多目的進化的アルゴリズムを用い、進化を続ける多様なインスタンス上で性能を最適化する構成を最適化し、適応度は解の質と多様性に基づく。
• 既存の構成の弱みを露呈するため、TSPおよびVRPSPDTW用の合成インスタンスを生成するインスタンスジェネレータ（例：爆発、収縮、回転）を導入する。
• 4段階の計算リソース配分を採用：初期化、構成の進化、インスタンスの進化、検証。各段階に時間制限 $t_{ ext{init}}$, $t_c$, $t_v$, $t_i$ を設定する。
• TSP（CEPS-TSP経由）およびVRPSPDTW（CEPS-VRPSPDTW経由）の2つの実世界問題にフレームワークを適用し、ドメイン固有のインスタンスジェネレータを用いる。
• 将来、強化学習で訓練されたニューラルネットワークなどの「最適化の学習」手法と統合可能であるため、勾配ベースの最適化の可能性を統合する。

実験結果

リサーチクエスチョン

• RQ1 構成と合成インスタンスの共進化は、従来の構成手法に比べ、並列アルゴリズムパフォルティオの一般化性能を向上させることができるか？
• RQ2 少数の訓練インスタンスしか利用できない状況で、CEPSは未確認の問題インスタンスに対して優れた性能を示すPAPを構築できるか？
• RQ3 CEPSは、既存の構成の弱みを露呈するような、困難で多様なインスタンスをどれほど効果的に生成できるか？ これによりロバスト性が向上するか？
• RQ4 共進化プロセスにより、TSP や VRPSPDTW のベンチマーク問題で新たな最良解が発見されたか？
• RQ5 同様の時間予算下で、CEPSはGLOBAL、PCIT、PARHYDRAといった既存のPAP構築手法と比較して、計算効率および解の質の面で優れているか？

主な発見

• CEPSは、わずか数個の訓練インスタンスしか使用しない状況でも、ベースライン手法に比べて未確認のTSPおよびVRPSPDTWインスタンスにおける一般化性能を顕著に向上させた。
• 本手法は、複数のTSPおよびVRPSPDTWインスタンスについて新たな最良解を発見し、高品質な構成を特定できる能力を示した。
• TSPでは320時間、VRPSPDTWでは1312時間の合計CPU時間で、GLOBAL や PARHYDRA と同等の時間制約下で、競争的または優れたパフォーマンスを達成した。
• 共進化プロセスにより、多様で困難な合成インスタンスが生成され、これにより構成の弱みが効果的に露呈され、よりロバストなPAPが得られた。
• CEPSで用いられたインスタンスジェネレータ（例：爆発、収縮、グリッド変異）は、非一様で解きにくいインスタンスを効果的に生成し、構成のロバスト性を向上させた。
• 研究者が今後のアルゴリズム構成および一般化に関する研究を支援できるよう、生成されたインスタンスセットを公開した。