[論文レビュー] Matrix Encoding Networks for Neural Combinatorial Optimization

Yeong‐Dae Kwon, Jinho Choo+4 more|arXiv (Cornell University)|Jun 21, 2021

Metaheuristic Optimization Algorithms Research参考文献 36被引用数 16

ひとこと要約

この論文では、組合せ最適化問題における行列構造の関係データを符号化することを目的とした深層学習アーキテクチャであるMatrix Encoding Network（MatNet）を紹介する。2つのアイテム集合間の距離または相互作用行列を処理することで、従来解決が困難であった問題、例えば非対称TSP やフレキシブルフロウショップスケジューリングに対して、エンドツーエンドのニューラルソルバーを可能にし、従来のMIP やメタヒューリスティクス手法よりも顕著に優れた近似最適解を達成する。

ABSTRACT

Machine Learning (ML) can help solve combinatorial optimization (CO) problems better. A popular approach is to use a neural net to compute on the parameters of a given CO problem and extract useful information that guides the search for good solutions. Many CO problems of practical importance can be specified in a matrix form of parameters quantifying the relationship between two groups of items. There is currently no neural net model, however, that takes in such matrix-style relationship data as an input. Consequently, these types of CO problems have been out of reach for ML engineers. In this paper, we introduce Matrix Encoding Network (MatNet) and show how conveniently it takes in and processes parameters of such complex CO problems. Using an end-to-end model based on MatNet, we solve asymmetric traveling salesman (ATSP) and flexible flow shop (FFSP) problems as the earliest neural approach. In particular, for a class of FFSP we have tested MatNet on, we demonstrate a far superior empirical performance to any methods (neural or not) known to date.

研究の動機と目的

• 組合せ最適化問題において、行列形式の関係データを処理できるニューラルネットワークモデルの不足に対処すること。
• 非対称TSP やフレキシブルフロウショップスケジューリングなどの古典的なNP困難問題に対して、エンドツーエンドのディープラーニングベースのソルバーを可能にすること。これらは従来、ニューラルネットワークで解決されていなかった。
• MatNetに基づく学習済みニューラルヒューリスティクスが、混合整数プログラミングやメタヒューリスティクスを含む、確立されたオペレーションズリサーチ手法を、解の品質と推論速度の両面で上回ることを実証すること。
• 順列不変性を持ち、スケーラブルで汎用性の高いエンコーダーを提供すること。これは、2つの異なるアイテム集合間のグローバルな構造的関係を捉えることを目的としている。

提案手法

• MatNetは、2つの順序なしアイテム集合 $\tilde{A}$ と $\tilde{B}$ 間の対照的関係を表す行列 $\mathbf{D} \in \mathbb{R}^{M \times N}$ を処理し、行および列の順列不変性を保持する。
• モデルは共有重みを用いた二重ブランチエンコーダーを採用し、多頭注目とフィードフォワードネットワークを用いて、行列全体にわたる関係情報の集約を実現する。
• 順序の相対的順序を扱うために学習可能な位置エンコーディングを適用するが、対称的集約により、行および列の順列に対して不変性を維持する。
• 最終的な $\tilde{A}$ および $\tilde{B}$ 内のアイテムの表現は、エンドツーエンド学習におけるグリーディな解の構築のための強化学習ポリシー・ネットワークへの入力として使用される。
• 複数の特徴チャネル（例：$f > 1$）を扱うために、各チャネルを個別に処理した後、統合することで、複雑な関係のモデリングを可能にする。
• モデルは強化学習により訓練され、スケジューリングにおけるマケスピーン最小化およびTSPにおける巡回長最小化を最適化する方策勾配目的関数を用いる。

実験結果

リサーチクエスチョン

• RQ1 深層ニューラルネットワークは、組合せ最適化問題における2つの順序なしアイテム集合間の対照的関係を表す行列構造データを効果的に符号化できるか？
• RQ2 MatNetは、非対称TSP やフレキシブルフロウショップスケジューリングなどの古典的なNP困難問題において、エンドツーエンドのニューラルソルバーを実現し、最先端の性能を達成できるか？
• RQ3 MatNetに基づく学習済みニューラルヒューリスティクスは、混合整数プログラミングやメタヒューリスティクスを含む、従来のオペレーションズリサーチ手法を、解の品質と推論速度の両面で上回るか？
• RQ4 MatNetは、特に密な固定行列構造を持つ問題において、異なる問題インスタンスおよびスケールにどの程度一般化できるか？

主な発見

• フレキシブルフロウショップスケジューリング（FFSP）において、MatNetベースの強化学習は100ジョブインスタンスで平均マケスピーン89.7を達成し、600秒以内に有効な解を発見できなかったMIP やメタヒューリスティクスをすべて上回った。
• 50ジョブのFFSPインスタンスでは、MatNetは平均マケスピーン49.6を達成し、1インスタンスあたり8分の推論時間であった。これに対してCPLEXは600秒タイムアウトで6時間かかっていた。
• 非対称TSPでは、100都市インスタンスでMatNetは平均巡回長51.5を達成し、推論時間はたったの14秒で、ベースライン手法よりも著しく高速であった。
• 48時間までの延長時間予算でも、CPLEX やPSOといった従来のOR手法はMatNetの性能を上回ることができず、解の品質における優位性が確認された。
• 20ジョブのFFSPインスタンスでは、MatNetベースのモデルが最適解からのギャップ27.3%を達成し、128倍のデータ拡張を施すと25.4%に改善され、強力なスケーラビリティと一般化能力が示された。
• モデルの性能は、さまざまな問題サイズや設定においても安定しており、実行時間と解の品質の両面で、ヒューリスティクスおよび正確法を一貫して上回った。