[論文レビュー] Automated Algorithm Selection: Survey and Perspectives

Pascal Kerschke, Holger H. Hoos+2 more|arXiv (Cornell University)|Nov 28, 2018

Constraint Satisfaction and Optimization参考文献 48被引用数 6

ひとこと要約

本調査は、問題インスタンスの特徴と機械学習を用いて、与えられた問題インスタンスに対して最もパフォーマンスの高いアルゴリズムを選択する技術である自動アルゴリズム選択について、包括的な概要を提示する。離散的および連続的最適化をカバーし、アルゴリズム選択を設定とパフォーマンスアーカイブ手法と関連づけ、複雑な問題領域におけるパフォーマンスとスケーラビリティを向上させるための主な課題と今後の方向性を特定する。

ABSTRACT

It has long been observed that for practically any computational problem that has been intensely studied, different instances are best solved using different algorithms. This is particularly pronounced for computationally hard problems, where in most cases, no single algorithm defines the state of the art; instead, there is a set of algorithms with complementary strengths. This performance complementarity can be exploited in various ways, one of which is based on the idea of selecting, from a set of given algorithms, for each problem instance to be solved the one expected to perform best. The task of automatically selecting an algorithm from a given set is known as the per-instance algorithm selection problem and has been intensely studied over the past 15 years, leading to major improvements in the state of the art in solving a growing number of discrete combinatorial problems, including propositional satisfiability and AI planning. Per-instance algorithm selection also shows much promise for boosting performance in solving continuous and mixed discrete/continuous optimisation problems. This survey provides an overview of research in automated algorithm selection, ranging from early and seminal works to recent and promising application areas. Different from earlier work, it covers applications to discrete and continuous problems, and discusses algorithm selection in context with conceptually related approaches, such as algorithm configuration, scheduling or portfolio selection. Since informative and cheaply computable problem instance features provide the basis for effective per-instance algorithm selection systems, we also provide an overview of such features for discrete and continuous problems. Finally, we provide perspectives on future work in the area and discuss a number of open research challenges.

研究の動機と目的

• 基礎的研究から最近の進展にまで及ぶ、自動アルゴリズム選択研究の統一的かつ最新の概要を提供すること。
• アルゴリズム選択、アルゴリズム設定、スケジューリング、パフォーマンスアーカイブ手法の間の概念的違いを明確にし、文献における混乱を軽減すること。
• 離 discrete および連続的最適化問題の両方において、情報量が多くて計算コストが低い問題インスタンス特徴を特定・レビューすること。
• 機械学習とメタラーニングが個々のインスタンスに応じたアルゴリズム選択を可能にする役割を強調し、他の最適化手法との統合を議論すること。
• 特徴工学、スケーラビリティ、設定用コンフィギレータのためのメタアルゴリズム選択を含む、未解決の課題と今後の研究方向性を概説すること。

提案手法

• 組合せ最適化および連続的最適化分野における画期的かつ最近の研究を含め、15年以上にわたる自動アルゴリズム選択に関する体系的サーベイ。
• アルゴリズム設定、アルゴリズムスケジューリング、並列パフォーマンスアーカイブなど、関連するアプローチを分類・比較し、それらの違いと重複を明確にする。
• 問題インスタンスのための特徴工学技術をレビューし、探索的ランドスケープ分析やモニタリングベースの特徴を含め、効果的なアルゴリズム選択を支援する。
• ASLib、ACLib、HPOlib などのベンチマークプラットフォームを分析し、標準化された環境下でアルゴリズム選択手法の評価と比較を実施。
• 特定の状況に応じて最適なアルゴリズム選択戦略を動的に選ぶために、メタラーニングおよびメタアルゴリズム選択の活用を提言する。
• SAT、TSP、QBF、BBOB、UCIデータセットなどの実世界の応用から得られる実証的証拠を評価し、特徴セットと選択モデルの有効性を検証する。

実験結果

リサーチクエスチョン

• RQ1 NP困難および連続的最適化問題において、アルゴリズム間のパフォーマンスの補完性は、多様な問題インスタンスにおいて解法効率を向上させるためにどのように活用できるか？
• RQ2 離 discrete および連続的最適化の両方において、アルゴリズム選択を支援するために、最も情報量が多くて計算コストが低い問題インスタンス特徴は何か？
• RQ3 パフォーマンスとスケーラビリティの観点から、アルゴリズム選択手法は、アルゴリズム設定およびパフォーマンスアーカイブベースのアプローチと比べてどのように異なるか？
• RQ4 連続的最適化分野における既存のベンチマークが、問題インスタンス空間の全領域をどれだけカバーしているか、アルゴリズム選択の一般化にどのような影響を及えるか？
• RQ5 メタアルゴリズム選択（つまり、最良のアルゴリズム選択戦略自体を選択すること）は、動的またはデータが限られた環境において、パフォーマンスと適応性を向上させることができるか？

主な発見

• NP困難および連続的最適化問題において、パフォーマンスの補完性は広く見られ、個々のインスタンスに応じたアルゴリズム選択の必要性を裏付ける。
• QBFソルバー選択の事例（Hoos et al., 2018）で示されたように、単純で計算コストが低い特徴でも、高いパフォーマンスを達成できることが実証されており、特徴の効率性は達成可能である。
• BBOB や UCI データセットを含む連続的最適化分野の既存ベンチマークは、問題インスタンス空間の限定された領域しかカバーしていないため、アルゴリズム選択モデルの一般化が制限される。
• SATzilla や AutoFolio などのアルゴリズム選択システムは、SAT や TSP 分野で、最先端のパフォーマンスを著しく向上させ、実用的インパクトを示している。
• ASLib、ACLib、HPOlib などのベンチマークライブラリは、公平な比較と再現可能性に不可欠であるが、多目的問題や実世界の問題を含めるために、継続的なメンテナンスと拡張が求められる。
• メタアルゴリズム選択（アルゴリズム選択を用いて、最良の選択戦略自体を選ぶこと）は、特に学習データが限られた環境において、多様な応用状況に対応できる可能性を示しており、有望である。