[論文レビュー] SurCo: Learning Linear Surrogates For Combinatorial Nonlinear Optimization Problems

Aaron Ferber, Taoan Huang+5 more|arXiv (Cornell University)|Oct 22, 2022

Metaheuristic Optimization Algorithms Research被引用数 4

ひとこと要約

SurCoは、線形ソルバを微分可能にすることで、非線形で非凸な目的関数をもつ組合せ最適化問題に対して線形の代理コストを学習し、効率的で勾配ベースの最適化を可能にする。実世界の応用、例えば埋め込みシャーディング、フォトニクス設計、ルート計画において、最先端の手法よりも優れた解をより速く得られる。

ABSTRACT

Optimization problems with nonlinear cost functions and combinatorial constraints appear in many real-world applications but remain challenging to solve efficiently compared to their linear counterparts. To bridge this gap, we propose $ extbf{SurCo}$ that learns linear $\underline{ ext{Sur}}$rogate costs which can be used in existing $\underline{ ext{Co}}$mbinatorial solvers to output good solutions to the original nonlinear combinatorial optimization problem. The surrogate costs are learned end-to-end with nonlinear loss by differentiating through the linear surrogate solver, combining the flexibility of gradient-based methods with the structure of linear combinatorial optimization. We propose three $ exttt{SurCo}$ variants: $ exttt{SurCo}- exttt{zero}$ for individual nonlinear problems, $ exttt{SurCo}- exttt{prior}$ for problem distributions, and $ exttt{SurCo}- exttt{hybrid}$ to combine both distribution and problem-specific information. We give theoretical intuition motivating $ exttt{SurCo}$, and evaluate it empirically. Experiments show that $ exttt{SurCo}$ finds better solutions faster than state-of-the-art and domain expert approaches in real-world optimization problems such as embedding table sharding, inverse photonic design, and nonlinear route planning.

研究の動機と目的

• 非線形的で凸でない目的関数をもつ組合せ最適化問題を、効率的で市販のソルバを用いて解く挑戦に取り組む。
• ブラックボックス最適化やヒューリスティック手法の限界を克服し、組合せの妥当性を保証するが、遅いなどの問題を解決する。
• 非線形な目的関数と線形ソルバの間のギャップを埋めるために、問題の構造を保つ線形代理コストを学習する。
• 問題の記述から代理係数を予測するモデルを学習することで、問題インスタンス間での一般化を可能にする。
• GPUシャーディング、フォトニクス設計、確率的ルーティングなどの実世界の分野で、解の品質と実行時間の効率を向上させる。

提案手法

• SurCo-zeroを提案：線形組合せ最適化ソルバをバックプロパゲーション可能にし、非線形損失を最小化するように線形代理コストをエンドツーエンドで学習する。
• SurCo-priorを導入：問題固有の特徴から代理係数を予測するモデルを学習し、未学習の問題に対しても高速な推論を可能にする。
• SurCo-hybridを開発：個々のテストインスタンスに対してSurCo-zeroを用いてSurCo-priorの予測をファインチューニングすることで、分布レベルの知識とインスタンス固有の知識を統合する。
• 微分可能ソルバを活用し、代理解を通じて非線形目的関数の勾配を計算することで、代理係数の勾配ベース最適化を可能にする。
• 代理最適化問題：min_x∈Ω ĉᵀx を採用し、ĉはニューラルネットワークで予測され、xは組合せ的に妥当である。
• 真の目的関数を反映する非線形で微分可能な損失関数を用いて学習することで、モデルが有効な線形近似を学習できるようにする。

実験結果

リサーチクエスチョン

• RQ1 線形代理コストの学習により、非線形組合せ最適化問題に対して効率的かつ高品質な解を得られるか？
• RQ2 線形ソルバを微分することで、ブラックボックス法やヒューリスティック法と比較して、サンプル効率と解の品質が向上するか？
• RQ3 問題の分布上で学習したモデルが、未観測のインスタンスに対しても一般化され、高品質な解を維持できるか？
• RQ4 分布レベルの事前知識とインスタンス固有のファインチューニングを組み合わせることで、非線形最適化における性能が向上するか？
• RQ5 複雑な非線形目的関数と組合せ制約をもつ実世界の応用において、SurCoは最先端の手法を上回るか？

主な発見

• SurCo-zeroは、同等または低い実行時間で、埋め込みテーブルシャーディングにおいて最先端の手法よりも優れた解の品質を達成した。
• SurCo-priorは、同じ分布からのホールドアウト問題において、強化学習や他の学習ベース手法を上回った。
• SurCo-hybridは、個々のインスタンスでのファインチューニングによりSurCo-priorを改善し、非線形ルート計画とフォトニクス設計でより高品質な解を得た。
• ベースライン手法よりも速く実用的なフォトニクスデバイスを発見でき、逆設計における実用的価値を示した。
• SurCoは、GPUシャーディングや確率的パスプランニングを含む多様な実世界問題に、良好に一般化した。
• 本フレームワークは、微分可能ソルバを用いた線形代理コストの学習が、非線形組合せ最適化問題のスケーラブルで高性能な最適化を可能にすることを示した。