[論文レビュー] An Improved Generic Bet-and-Run Strategy for Speeding Up Stochastic Local Search

Thomas Weise, Zijun Wu+1 more|arXiv (Cornell University)|Jun 23, 2018

Metaheuristic Optimization Algorithms Research参考文献 32被引用数 3

ひとこと要約

本論文は、初期のランタイムトレースを用いて予測モデルを構築し、最も有望な実行を継続するための、強化された汎用的 BET-AND-RUN 策略を提案する。従来の手法に比べ、多項式フィッティングやニューラルネットワークといった高度な意思決定手法を用いることで、固定時間予算内での最良の最終解を特定する可能性が著しく向上する。本手法は、標準的なリスタート戦略や従来の currentBest ベースラインに対し、多くのケースで優れている。

ABSTRACT

A commonly used strategy for improving optimization algorithms is to restart the algorithm when it is believed to be trapped in an inferior part of the search space. Building on the recent success of Bet-and-Run approaches for restarted local search solvers, we introduce an improved generic Bet-and-Run strategy. The goal is to obtain the best possible results within a given time budget t using a given black-box optimization algorithm. If no prior knowledge about problem features and algorithm behavior is available, the question about how to use the time budget most efficiently arises. We propose to first start k>=1 independent runs of the algorithm during an initialization budget t1=0 time units in doing so), and then continuing these runs for the remaining t3=t-t1-t2 time units. In previous Bet-and-Run strategies, the decision maker D=currentBest would simply select the run with the best- so-far results at negligible time. We propose using more advanced methods to discriminate between "good" and "bad" sample runs, with the goal of increasing the correlation of the chosen run with the a-posteriori best one. We test several different approaches, including neural networks trained or polynomials fitted on the current trace of the algorithm to predict which run may yield the best results if granted the remaining budget. We show with extensive experiments that this approach can yield better results than the previous methods, but also find that the currentBest method is a very reliable and robust baseline approach.

研究の動機と目的

• 問題やアルゴリズムの挙動に関する事前知識が全くない状況下で、固定時間予算を効率的に割り当てる課題に対処すること。
• 現在の最良解（currentBest）ヒューリスティックに依存するのみの従来の BET-AND-RUN 策略の改善。
• ランタイムトレースに基づく予測モデルが、最終的に最良の解をもたらす可能性が最も高い実行をよりよく特定できるかどうかの調査。
• ニューラルネットワークや多項式補間を含む多様な意思決定手法の性能を、頑健な currentBest ベースラインと比較して評価すること。
• インスタンスやソルバ設定に応じてカスタマイズ可能な、汎用的かつ設定可能な BET-AND-RUN フレームワークの提供。

提案手法

• 本手法は、合計時間予算 t を3段階に分割する：t1（初期化）はk個の独立した実行を実行し、t2（意思決定）ではm個の実行を選択し、t3（継続）では選択されたm個の実行を実行する。
• 段階2では、各初期実行の (時間, 品質) タプルを分析し、意思決定者 D が将来のパフォーマンスを予測して、m ≥ 1 個の実行を選択する。
• 意思決定者 D は、currentBest（ベースライン）、減少収益（diminishing returns）、3次多項式補間、最適化手法を異なるものとして使用したパーセプトロン（PER(0), PER(1)）を用いて評価される。
• 予測モデルは、対数スケールまたは元のランタイムトレースを用いて学習し、残りの時間で最も良い解が得られる実行を予測する。
• 本手法は、MVC や TSP といった多様な問題インスタンス、異なる合計時間予算、k 値、意思決定戦略を用いて評価された。
• すべての実験データとコードは、再現性およびさらなる研究を支援するために公開されている。

実験結果

リサーチクエスチョン

• RQ1 初期のランタイム挙動に基づく予測モデルは、currentBest ヒューリスティックを上回るラン選択を BET-AND-RUN 策略で可能にするか？
• RQ2 機械学習手法や曲線フィッティング技術は、初期試行のセットから最良の実行を予測する際に、どのように比較されるか？
• RQ3 改善された BET-AND-RUN 策略のパフォーマンスは、合計時間予算、問題インスタンス、または初期実行数 k に依存するか？
• RQ4 currentBest 戦略は依然として強力なベースラインであり、どのような状況でより複雑な予測モデルを上回るか？
• RQ5 インスタンス固有の意思決定者および予算割り当ての設定は、一貫したパフォーマンス向上をもたらすか？

主な発見

• 多項式補間やトレーニング済みパーセプトロンといった高度な意思決定者を用いた改善された BET-AND-RUN 策略は、複数の問題インスタンスおよび時間予算において、従来の F17 ベースラインを一貫して上回った。
• 50%～60% のケースで、新しい手法は currentBest ベースラインを上回ったが、特に長い時間予算での効果が顕著であった。
• PER(0) および PER(1) ニューラルネットワーク予測モデルは強く、PER(1) は t=2000s 時に MVC 問題で F17 を上回る確率が 36% を記録した。
• 減少収益ヒューリスティックは単純かつ高速でありながら、驚くべき結果を示し、t=2000s 時に MVC 問題で F17 を 58% のケースで上回った。
• currentBest 方法は依然として非常に信頼性が高く、頑健なベースラインであり、特に小さな予算や高い分散がある状況では、より複雑なモデルを上回った。
• ウィルコクソン順位和検定による統計的分析では、20のテスト設定のうち16で改善された戦略が F17 を有意に上回ったことが確認され、t=2000s 時の MVC および TSP のパイチャートにおいて、赤（優れたパフォーマンス）が支配的であった。