[論文レビュー] A unified approach to mixed-integer optimization: Nonlinear formulations and scalable algorithms

Dimitris Bertsimas, Ryan Cory-Wright+1 more|arXiv (Cornell University)|Jul 3, 2019

Supply Chain and Inventory Management被引用数 7

ひとこと要約

本論文は、混合整数最適化問題を統一的かつ非線形に再定式化する手法を提案する。従来のbig-M線形化の代わりに正則化に基づく凸2値最適化形式を用いることで、カットプレーン法と一次最適化法のハイブリッド手法により、高速かつスケーラブルな解法が可能になる。本手法は、最先端のMIPおよびSOCPソルバーよりも優れており、10万個の共変量を含むスパース回帰や100個以上のノードを含むネットワーク設計といった大規模問題を、最大40%の性能向上と桁違いの高速化で解ける。

ABSTRACT

We propose a unified framework to address a family of classical mixed-integer optimization problems, including network design, facility location, unit commitment, sparse portfolio selection, binary quadratic optimization, sparse principal analysis and sparse learning problems. These problems exhibit logical relationships between continuous and discrete variables, which are usually reformulated linearly using a big-M formulation. In this work, we challenge this longstanding modeling practice and express the logical constraints in a non-linear way. By imposing a regularization condition, we reformulate these problems as convex binary optimization problems, which are solvable using an outer-approximation procedure. In numerical experiments, we establish that a general-purpose numerical strategy, which combines cutting-plane, first-order and local search methods, solves these problems faster and at a larger scale than state-of-the-art mixed-integer linear or second-order cone methods. Our approach successfully solves network design problems with 100s of nodes and provides solutions up to 40\% better than the state-of-the-art; sparse portfolio selection problems with up to 3,200 securities compared with 400 securities for previous attempts; and sparse regression problems with up to 100,000 covariates.

研究の動機と目的

• 混合整数最適化における連続変数と離散変数の論理的制約に、長年にわたり用いられてきたbig-M線形化形式の使用に挑戦すること。
• ネットワーク設計、施設配置、ユニットコミットメント、スパース学習など、多様な問題に適用可能な統一的フレームワークを開発すること。
• 従来の混合整数線形法や第二順序 Cone 法では到達できない大規模インスタンスのスケーラビリティと解の品質を向上させること。
• 正則化を用いた凸2値最適化が、外挿近似法とハイブリッド数値スキームを用いて効率的な解法を可能にすることを示すこと。

提案手法

• 連続変数と2値変数の間の論理的制約を、big-M線形化の代わりに非線形で正則化に基づくアプローチで再定式化する。
• 正則化条件を課すことにより、得られた問題を凸2値最適化問題に変換する。
• 凸2値問題を効率的に解くために、外挿近似手順を適用する。
• 一般用途のアルゴリズム戦略として、カットプレーン法、一次最適化、局所探索法を統合する。
• 再定式化された問題の凸性を活用して、大規模インスタンスのスケーラブルな解法を実現する。
• 統一フレームワークを用いて、2値二次最適化、スパースPCA、スパースポートフォリオ選択などの多様な問題を処理する。

実験結果

リサーチクエスチョン

• RQ1 混合整数最適化問題における論理的制約の非線形再定式化は、スケーラビリティと解の品質において、従来のbig-M線形化を上回ることができるか？
• RQ2 論理的変数依存関係を有する多様な混合整数問題に、統一的凸2値最適化フレームワークをどの程度まで適用可能か？
• RQ3 カットプレーン法、一次最適化、局所探索法を統合した本手法のハイブリッドアルゴリズムは、最先端のMIPおよびSOCPソルバーよりも大規模インスタンスでどの程度スケーリング可能か？
• RQ4 ネットワーク設計や高次元スパース回帰のような応用分野において、本手法が到達可能な最大問題サイズは何か？

主な発見

• 提案手法は100ノードを超えるネットワーク設計問題を解き、最先端手法と比較して最大40%優れた解を得た。
• スパースポートフォリオ選択において、本手法は3,200銘柄までスケーリング可能であり、従来手法の400銘柄の制限を大幅に上回った。
• 本手法は、最大10万個の共変量を含むスパース回帰問題を効果的に解くことができ、前例のないスケーラビリティを示した。
• 一般用途のアルゴリズムは、大規模インスタンスにおいて、特殊化された最先端のMIPおよび第二順序 Cone ソルバーよりも速度と解の品質の両面で優れた性能を示した。
• 正則化による非線形再定式化により凸性が得られ、外挿近似法とハイブリッド数値手法による効率的解法が可能になった。
• 本フレームワークは、施設配置、ユニットコミットメント、スパース主成分分析といった多様な問題を、単一のスケーラブルな解法アプローチで統一的に処理できる。