[論文レビュー] A General Large Neighborhood Search Framework for Solving Integer Linear Programs

Jialin Song, Ravi Lanka+2 more|arXiv (Cornell University)|Mar 29, 2020

Constraint Satisfaction and Optimization被引用数 28

ひとこと要約

本稿では、任意の既存のILPソルバ（例：Gurobi）をブラックボックスサブルーチンとして用い、変数の部分集合を反復的に最適化しながら残りの変数を固定することで、整数線形計画問題（ILP）を解くための一般化された大領域探索（LNS）フレームワークを提案する。このフレームワークは、模倣学習および強化学習を活用して最適な変数分割戦略を学習し、Gurobiと比較して多様なベンチマークで著しいウォルクロック時間の高速化を達成しており、CATSインスタンスでは最大50%の改善を示している。

ABSTRACT

This paper studies a strategy for data-driven algorithm design for large-scale combinatorial optimization problems that can leverage existing state-of-the-art solvers in general purpose ways. The goal is to arrive at new approaches that can reliably outperform existing solvers in wall-clock time. We focus on solving integer programs, and ground our approach in the large neighborhood search (LNS) paradigm, which iteratively chooses a subset of variables to optimize while leaving the remainder fixed. The appeal of LNS is that it can easily use any existing solver as a subroutine, and thus can inherit the benefits of carefully engineered heuristic or complete approaches and their software implementations. We show that one can learn a good neighborhood selector using imitation and reinforcement learning techniques. Through an extensive empirical validation in bounded-time optimization, we demonstrate that our LNS framework can significantly outperform compared to state-of-the-art commercial solvers such as Gurobi.

研究の動機と目的

• 大規模なILP問題を解く一般用途のデータ駆動型フレームワークを設計し、ウォルクロック時間において最新の商業ソルバーよりも優れた性能を達成すること。
• Gurobiなどの高性能な既存ILPソルバ（例：Gurobi）を、新しい探索フレームワーク内でのブラックボックスサブルーチンとして統合することを可能にすること。
• ソルバの内部構造に深く統合する必要がある従来の学習による探索手法や、性能が低いオープンソースソルバに限定される手法の限界を克服すること。
• ドメイン特化の知識を必要とせずに、模倣学習および強化学習を用いて変数の近傍選択戦略を学習することで、顕著な性能向上を達成できることを示すこと。

提案手法

• フレームワークは、整数変数の部分集合を反復的に再最適化しながら、残りの変数を固定する大領域探索（LNS）を採用する。
• 模倣学習および強化学習により訓練されたポリシーを用いて、再最適化のための最適な変数の近傍分割を予測する。
• 選択された部分集合は、高性能なILPソルバ（例：Gurobi）を用いて解かれる。このソルバは、インシデント解の改善を目的としたブラックボックスサブルーチンとして機能する。
• この手法は、基盤となるソルバに依存しない。これにより、任意の既存のILPソルバ（商業用を含む）とのプラグアンドプレイ統合が可能となる。
• 学習部は、過去の最適化データに基づき、収束を速くし、目的関数の改善をもたらす近傍の選択を予測するように訓練される。
• フレームワークは、ランダム選択と学習済み近傍選択の両方をサポートしており、後者の方がベンチマーク全体で一貫してランダム選択およびGurobiを上回る性能を示している。

実験結果

リサーチクエスチョン

• RQ1 既存のILPソルバ（例：Gurobi）をサブルーチンとして用いる一般用途のLNSフレームワークが、多様なILP問題においてウォルクロック時間で最新の商業ソルバーよりも優れた性能を示せるか？
• RQ2 ドメイン特化の知識を必要とせずに、模倣学習および強化学習を用いてLNSにおける効果的な変数近傍選択ポリシーを学習できるか、その程度はいかほどか？
• RQ3 学習ベースの近傍選択による性能向上は、異なる問題クラスやベンチマーク分布にわたり持続的か？
• RQ4 SCIPなどの遅いオープンソースソルバを用いても、LNSフレームワークが優れた性能を発揮できるか。これは、商業ツールに限定されない広範な適用可能性を示唆するか？
• RQ5 MAXCUT や MVC といった特殊分野における問題特化のヒューリスティクスと比較して、このフレームワークの性能はどの程度か？

主な発見

• 学習済み近傍選択器（FT-LNS）を備えたLNSフレームワークは、最小頂点被覆（MVC）問題において、BAグラフでは11%、ERグラフでは6%のGurobiを上回る性能を示した。
• CATSベンチマークでは、FT-LNS法が既存のヒューリスティクスと比較して最大50%高い目的関数値を達成し、実世界に近い環境でも優れた性能を示した。
• LNSフレームワーク内でのランダム近傍選択ですら、複数のベンチマークでGurobiを著しく上回った。これは、LNSパラダイム自体が内蔵された優位性を示している。
• SCIPをILPソルバとして使用した場合、学習済みLNSバージョン（BC-LNSおよびFT-LNS）は、標準SCIPおよびランダム-LNSをさらに上回った。これは、フレームワークがソルバの種別にかかわらず堅牢であることを確認した。
• MVC、MAXCUT、CATSを含むすべてのテストベンチマークで、Gurobiに対して一貫したウォルクロック時間の高速化を達成した。これにより、フレームワークの一般化可能性が裏付けられた。
• 結果から、ソルバの内部構造を変更することなく、変数分割による効果的な部分問題への分解を学習することで、収束が速くなり、より良い解が得られることを示した。