[論文レビュー] ADMM for the SDP relaxation of the QAP

Danilo Elias Oliveira, Henry Wolkowicz+1 more|arXiv (Cornell University)|Dec 17, 2015

Advanced Optimization Algorithms Research被引用数 4

ひとこと要約

本稿では、二次割り当て問題（QAP）の半定値計画（SDP）緩和問題を解くために、交替方向乗数法（ADMM）を提案する。この手法は、原価勾配内点法と比較して、はるかに高速な収束性と高い精度を達成する。本手法により低ランク解が得られ、非負性制約およびカットティングプレーン制約を効率的に組み込み、スパarsityを維持できる。その結果、QAPインスタンスの下界および上界が向上する。

ABSTRACT

The semidefinite programming (SDP) relaxation has proven to be extremely strong for many hard discrete optimization problems. This is in particular true for the quadratic assignment problem (QAP), arguably one of the hardest NP-hard discrete optimization problems. There are several difficulties that arise in efficiently solving the SDP relaxation, e.g.,~increased dimension; inefficiency of the current primal-dual interior point solvers in terms of both time and accuracy; and difficulty and high expense in adding cutting plane constraints. We propose using the alternating direction method of multipliers (ADMM) to solve the SDP relaxation. This first order approach allows for inexpensive iterations, a method of cheaply obtaining low rank solutions, as well a trivial way of adding cutting plane inequalities. When compared to current approaches and current best available bounds we obtain remarkable robustness, efficiency and improved bounds.

研究の動機と目的

• QAPのSDP緩和問題を解く際の原価勾配内点法の計算非効率性およびスケーラビリティの制限を解消すること。
• 低ランク解を可能にし、非負性およびカットティングプレーン制約を効率的に組み込める一次最適化手法を開発すること。
• ADMMがスパarsityを維持し、高精度な解を得られる能力を活用して、QAPの下界および上界を向上させること。
• 最先端の手法と比較して、大規模なQAPインスタンスにおいてADMMのロバスト性および効率性を示すこと。

提案手法

• 本稿では、QAPを二次的制約付き二次計画問題に再定式化し、ホモジニアゼーションおよびフェイスリダクション技術を用いて新たなSDP緩和問題を導出する。
• ADMMは、増強ラグランジュ最小化を用いて、行列変数、双対変数、制約を含む部分問題に問題を分割することで、SDP緩和問題を解く。
• 本手法は、ギャングスター制約（行および列の要素ごとの直交性）を活用して、問題の複雑さと冗長性を低減する。
• 非負性およびカットティングプレーン制約は、ADMM反復中に容易に組み込まれ、スパarsityが保持され、境界の強度が向上する。
• 収束を保証するため、変数分割と双対上昇ステップを組み込んだ修正されたADMM定式化を採用する。
• ADMM反復の断片を切り詰めることで低ランク解が得られ、元のQAPの妥当な近似が得られる。

実験結果

リサーチクエスチョン

• RQ1 ADMMは、QAPのSDP緩和問題を解く際、速度および精度の面で原価勾配内点法を上回ることができるか？
• RQ2 ADMMは、QAPのより良い妥当な上界をもたらす低ランク解の効率的計算を可能にするか？
• RQ3 ADMMフレームワーク内に非負性およびカットティングプレーン制約を、スパarsityや計算効率を損なわず効率的に組み込むことができるか？
• RQ4 ADMMを用いたSDP緩和問題は、SDPLIBやその他のベンチマークからの既存の最良境界と比較してどうなるか？

主な発見

• ADMMは、原価勾配内点法と比較して、QAPのSDP緩和問題に対してはるかに低い計算コストで高精度な解を得る。
• Nug25インスタンスでは、下界3535、双対ギャップ2.43%を達成し、従来手法を上回った。
• テストした全インスタンスに対して下界が向上し、Nug20では14.35%、Tai20aでは15.85%の双対ギャップを示し、強力な収束性を示した。
• ADMMにより低ランク解が得られ、QAPのより良い妥当な近似が可能となり、上界の質が向上した。
• ADMM反復中に非負性およびカットティングプレーン制約を組み込むことは計算的に容易であり、スパarsityが維持され、境界の強度が向上した。
• 大規模インスタンス（Tai30aおよびTho30）では、双対ギャップが11.11%未満であり、150秒未満で問題が解けた。これにより、スケーラビリティが実証された。