[論文レビュー] Algorithm Portfolio Design: Theory vs. Practice

Carla P. Gomes, Bart Selman|arXiv (Cornell University)|Feb 6, 2013

Constraint Satisfaction and Optimization参考文献 11被引用数 6

ひとこと要約

本稿では、硬い組合せ探索問題における性能向上を図るために、確率的ソルバーの組み合わせであるアルゴリズムポーフォリオを提案し、評価する。異なるアルゴリズム間のランタイム分布の多様性を活用し、並列実行またはインタリーブド実行を用いることで、個々のソルバーに比べて顕著な高速化を達成する。特に、問題の分布に合わせてポーフォリオをチューニングした場合に顕著である。

ABSTRACT

Stochastic algorithms are among the best for solving computationally hard search and reasoning problems. The runtime of such procedures is characterized by a random variable. Different algorithms give rise to different probability distributions. One can take advantage of such differences by combining several algorithms into a portfolio, and running them in parallel or interleaving them on a single processor. We provide a detailed evaluation of the portfolio approach on distributions of hard combinatorial search problems. We show under what conditions the protfolio approach can have a dramatic computational advantage over the best traditional methods.

研究の動機と目的

• 複数の確率的アルゴリズムをポーフォリオとして組み合わせることで、硬い組合せ探索問題において最良の個別アルゴリズムを上回る性能を達成できるかどうかを調査すること。
• アルゴリズムポーフォリオが顕著な計算上の利点をもたらす理論的および実用的条件を分析すること。
• 重タール型ランタイム分布を示す実世界および合成問題インスタンスにおいて、ポーフォリオ戦略の有効性を評価すること。
• アルゴリズムポーフォリオ設計における理論的期待と実際のパフォーマンスのギャップを埋めること。
• さまざまな問題クラスにわたるスケーラビリティおよびロバスト性に関する実証的証拠を提供すること。

提案手法

• ランタイム特性が異なる複数の確率的ソルバーを組み合わせることでアルゴリズムポーフォリオを構築する。
• ソリューション探索パスの多様性を活用するため、ポーフォリオのメンバーを並列またはインタリーブドで実行する。
• 硬い組合せ問題で一般的な重タール型分布を持つ確率変数としてソルバーのランタイムをモデル化する。
• ベンチマーク問題セット上で、個別ソルバーと比較してポーフォリオのパフォーマンスを統計的に分析する。
• 期待される高速化を最大化するために、問題インスタンスの分布に基づいてポーフォリオの構成をチューニングする。
• 解決時間、成功確率、期待ランタイム削減率などの指標を用いてパフォーマンスを評価する。

実験結果

リサーチクエスチョン

• RQ1 どのような条件下でアルゴリズムポーフォリオが最良の個別ソルバーを顕著に上回るのか？
• RQ2 異なるソルバーのランタイム分布がポーフォリオのパフォーマンスにどのように影響を与えるか？
• RQ3 ソルバーの多様性とポーフォリオ構成が、全体のソリューション効率に与える影響は何か？
• RQ4 理論的予測によるポーフォリオの高速化効果が、実問題インスタンスにおける実証的結果とどのように一致するか？
• RQ5 ポーフォリオ戦略は、多様な組合せ探索問題において一貫した高速化を達成できるか？

主な発見

• アルゴリズムポーフォリオは、硬い組合せ探索問題において、最良の個別ソルバーに比べて劇的な高速化—しばしば1桁以上—を達成する。
• ソルバーのランタイム分布が重タール型であり、探索行動に高い多様性を示す場合に、性能向上が顕著に現れる。
• ポーフォリオのパフォーマンスは、ソルバーの構成に極めて敏感であり、最適なポーフォリオはターゲットの問題分布に依存する。
• ロードバランスの向上と高速なソリューションの早期検出が可能であるため、純粋な並列実行に比べてインタリーブド実行がしばしば優れる。
• 理論的予測されたポーフォリオの高速化効果は、実証的に裏付けられており、このアプローチの実用的妥当性が確認された。
• わずか数個の多様性のあるソルバーを含むポーフォリオでも、特にランタイムが重タール型である場合には顕著な改善が得られる。