[論文レビュー] Differentiation of Blackbox Combinatorial Solvers

Marin Vlastelica|arXiv (Cornell University)|Dec 4, 2019

Data Management and Algorithms参考文献 58被引用数 53

ひとこと要約

本稿では、線形目的関数をもつブラックボックス組合せ最適化ソルバーに対して、微分可能バックプロパゲーション手法を提案する。この手法により、Gurobi や Blossom V、Dijkstra のアルゴリズムといった正確なソルバーを組み込んだニューラルネットワークのエンドツーエンド学習が可能になる。本手法は離散的解の連続的補間を用いて勾配を計算し、追加のソルバーキャル1回で正確な逆伝播を実現する。これにより、TSP や最小費用マッチング、最短経路問題といった複雑な問題を、最先端のソルバ性能を維持したまま解けるハイブリッドモデルの学習が可能になる。

ABSTRACT

Achieving fusion of deep learning with combinatorial algorithms promises transformative changes to artificial intelligence. One possible approach is to introduce combinatorial building blocks into neural networks. Such end-to-end architectures have the potential to tackle combinatorial problems on raw input data such as ensuring global consistency in multi-object tracking or route planning on maps in robotics. In this work, we present a method that implements an efficient backward pass through blackbox implementations of combinatorial solvers with linear objective functions. We provide both theoretical and experimental backing. In particular, we incorporate the Gurobi MIP solver, Blossom V algorithm, and Dijkstra's algorithm into architectures that extract suitable features from raw inputs for the traveling salesman problem, the min-cost perfect matching problem and the shortest path problem. The code is available at https://github.com/martius-lab/blackbox-backprop.

研究の動機と目的

• 正確で変更の加えられない組合せ最適化ソルバー（例：Gurobi や Blossom V）を微分可能コンponentとして統合したニューラルネットワークのエンドツーエンド学習を可能にすること。
• 線形目的関数をもつ区分的定数で微分不可能な組合せ最適化ソルバーに対して、バックプロパゲーションを実現する根本的課題を克服すること。
• 高品質なソルバー（例：Gurobi や Blossom V）の最適性と性能を維持しつつ、勾配ベース最適化を可能にすること。
• TSP や最小費用完全マッチング、最短経路、整数計画問題など、広範な問題に適用可能な一般化可能な手法を提供すること。

提案手法

• 摂動を加えた重み下での最適解の凸結合を用いて、離散的解の連続的補間を導入する。
• 組合せ最適化問題の最小化構造と最適値関数の部分微分を活用し、損失関数の入力重みに関する勾配を導出する。
• 損失増強推論と区分的定数補間に基づく新規な数学的技術を用い、ソルバーの内部を変更せずに勾配を計算する。
• 逆伝播には、フォワードパスと同等の計算コストである、追加のソルバーキャル1回のみを要する。
• TSP や最小費用マッチング、最短経路問題など、線形目的関数をもつ任意の組合せ最適化問題に適用可能である。
• 補間の制御にハイパーパrameter λ を用い、勾配の情報量を確保するとともに、ソルバーの忠実性を維持する。

実験結果

リサーチクエスチョン

• RQ1 内部ロジックや性能を変更せずに、未変更のブラックボックス組合せ最適化ソルバー（線形目的関数をもつ）に対して、バックプロパゲーションを可能にすることができるか？
• RQ2 提案手法は、Gurobi や Blossom V といった高性能ソルバーの最適性と実行時間効率をエンドツーエンド学習においても維持できるか？
• RQ3 正確なソルバーを組み込んだハイブリッドニューラルアーキテクチャは、標準的なディープラーニングモデルでは到達できない複雑な組合せタスク（例：地球表面におけるTSP）を解くことができるか？
• RQ4 近似ソルバー（例：OR-Tools）を用いた場合と正確なソルバーを用いた場合とで、本手法の性能にどのような差が生じるか？
• RQ5 ハイパーパrameter λ が勾配品質および学習安定性に与える影響は何か？

主な発見

• 本手法により、Gurobi や Blossom V、Dijkstra のアルゴリズムといった正確なソルバーを組み込んだニューラルネットワークのエンドツーエンド学習が可能となり、TSP、最小費用マッチング、最短経路タスクで最先端の性能を達成した。
• Globe TSPベンチマークでは、k=40 の都市数に対して平均都市配置誤差が 58 ± 7 km であった。Procrustes変換を施した後、最良の結果は真値とよく一致した。
• MNIST 最小費用完全マッチングタスクでは、完全畳み込みネットワークを用い、λ=10 で k=8 および k=16 の両方で 100% の正答率を達成した。
• Warcraft 最短経路データセットでは、k=30 でテスト正答率 99.3% を達成し、複雑な実世界の地図構造に対しても優れた一般化性能を示した。
• 近似ソルバーである OR-Tools を用いた場合、k=10 でテスト正答率 84.4% を達成し、真値の位置情報が与えられた場合の上限（88.6%）に近づいた。これにより、本手法はソルバーの非最適性に対してもロバストであることが示された。
• 計算効率を維持しており、逆伝播のコストは追加のソルバーキャル1回のみであり、フォワードパスと同等のコストである。