[論文レビュー] Interior Point Solving for LP-based prediction+optimisation

Jayanta Mandi, Tias Guns|arXiv (Cornell University)|Oct 26, 2020

Advanced Optimization Algorithms Research参考文献 27被引用数 34

ひとこと要約

本論文はIntOptを紹介する。内部点法ベースの微分可能なLPレイヤーを通じて均質自己双対LPの定式化と対数障壁を用いた微分を可能にし、MILP関連タスクにおいて最先端手法と競合する結果を示す。

ABSTRACT

Solving optimization problems is the key to decision making in many real-life analytics applications. However, the coefficients of the optimization problems are often uncertain and dependent on external factors, such as future demand or energy or stock prices. Machine learning (ML) models, especially neural networks, are increasingly being used to estimate these coefficients in a data-driven way. Hence, end-to-end predict-and-optimize approaches, which consider how effective the predicted values are to solve the optimization problem, have received increasing attention. In case of integer linear programming problems, a popular approach to overcome their non-differentiabilty is to add a quadratic penalty term to the continuous relaxation, such that results from differentiating over quadratic programs can be used. Instead we investigate the use of the more principled logarithmic barrier term, as widely used in interior point solvers for linear programming. Specifically, instead of differentiating the KKT conditions, we consider the homogeneous self-dual formulation of the LP and we show the relation between the interior point step direction and corresponding gradients needed for learning. Finally our empirical experiments demonstrate our approach performs as good as if not better than the state-of-the-art QPTL (Quadratic Programming task loss) formulation of Wilder et al. and SPO approach of Elmachtoub and Grigas.

研究の動機と目的

• 係数が不確かでデータから予測される MILP に対して、エンドツーエンド学習を動機づける。
• 内部点フレームワーク内で対数障壁を用いた微分可能なLP緩和を提案する。
• タスク損失の勾配を得るために、均質自己双対埋め込みを微分する。
• MILP関連問題においてIntOptを最先端アプローチと比較評価し、競争力のある性能を示す。

提案手法

• MILP問題のエンドツーエンド訓練を可能にするため、ニューラルネットワークの最終微分可能レイヤーとしてLPを用いる。
• LPに対数障壁項を挿入し、目的関数を二階微分可能にして、二乗ペナルティを置換する。
• 勾配を得るために、KKT条件ではなくLPの均質自己双対埋め込み (HSD) を微分する。
• LP解を計算するための前方内部点パスと、バックプロパゲーションのために ∂x*/∂c を計算する後方パスを用いる。
• 早期停止（lambda-cutoff）と線形システム解法におけるダンピングを用いて数値安定性に対処する。
• 必要に応じて減衰系を用いた前向き/後向きスキーム(Eq. 9-12)を用いて原始/双対方向と勾配を計算する。

実験結果

リサーチクエスチョン

• RQ1 内部点LP定式化と対数障壁は、予測-最適化設定でエンドツーエンド学習に適した微分可能な勾配を提供できるか。
• RQ2 均質自己双対LP埋め込みを微分することで、MILPタスク損失に対してSPOベースや二次形式と比較して競争力のある勾配を得られるか。
• RQ3 初期化、停止基準（lambda-cutoff）、およびダンピングは、数値安定性とエンドツーエンド訓練の性能にどのように影響するか。
• RQ4 提案手法IntOptのエンドツーエンド学習が、従来の二段階法、QPTL、SPOアプローチと比較して、さまざまなMILP系タスクでどの程度の性能を示すか。

主な発見

Method	MSE損失	後悔 (×10^4)
Two-stage	11 (2)	485 (0)
QPTL	1550 (84)	563 (300)
SPO	29 (8)	295 (177)
IntOpt	76 (31)	457 (295)

• IntOptは、勾配フローの点でLP解法により近い状態を保ちつつ、最先端手法（QPTLおよびSPO）と同等以上の結果を達成する。
• 実験全体（ナップサック、エネルギー計画、最短経路）を通じて、IntOptは競争力のある後悔を示しつつ、いくつかのケースでMSEが同等またはわずかに劣る。これはタスク重視の学習の利点を示す。
• 均質自己双対LP定式化と対数障壁を使うと、バックプロパゲーションの微分経路が得られ、ニューラルネットワークのレイヤーとして統合可能である。
• HSDベースの勾配は前方のニュートン法と同じ方程式系構造を用いて効率的に計算可能で、因数分解の再利用と高速化が可能。
• lambda-cutoffやダンピングなどのハイパーパラメータは数値安定性と性能に大きく影響する。早期停止は反復回数の削減と安定性の向上につながる。
• このアプローチは、係数の不確実性をLPに似た構造で扱いながら、強い最適化性能を維持したエンドツーエンド学習の可能性を示す。