[論文レビュー] Heuristic algorithms for the bipartite unconstrained 0-1 quadratic programming problem

Daniel Karapetyan, Abraham P. Punnen|arXiv (Cornell University)|Oct 13, 2012

Optimization and Packing Problems参考文献 12被引用数 13

ひとこと要約

本稿では、二部無制約0-1二次整数プログラミング問題（BQP）の特徴的な構造を活かして、構成ヒューリスティクス、局所探索、近傍探索技術を用いた特殊化されたヒューリスティックアルゴリズムを提案する。研究では、BQP固有のヒューリスティクスがQPに基づく再定式化手法を上回ることを示しており、特に非正方行列のインスタンスにおいて顕著である。構造的インスタンスではRow-Merge、ランダムインスタンスではMulti-Startヒューリスティクスが優れた性能を発揮する。

ABSTRACT

We study the Bipartite Unconstrained 0-1 Quadratic Programming Problem (BQP) which is a relaxation of the Unconstrained 0-1 Quadratic Programming Problem (QP). Applications of the BQP include mining discrete patterns from binary data, approximating matrices by rank-one binary matrices, computing cut-norm of a matrix, and solving optimization problems such as maximum weight biclique, bipartite maximum weight cut, maximum weight induced subgraph of a bipartite graph, etc. We propose several classes of heuristic approaches to solve the BQP and discuss a number of construction algorithms, local search algorithms and their combinations. Results of extensive computational experiments are reported to establish the practical performance of our algorithms. For this purpose, we propose several sets of test instances based on various applications of the BQP. Our algorithms are compared with state-of-the-art heuristics for QP which can also be used to solve BQP with reformulation. We also study theoretical properties of the neighborhoods and algorithms. In particular, we establish complexity of all neighborhood search algorithms and establish tight worst-case performance ratio for the greedy algorithm.

研究の動機と目的

• 二部無制約0-1二次整数プログラミング問題（BQP）に特化した効率的なヒューリスティックアルゴリズムの開発。BQPはNP困難であり、行列近似やパターンマイニングなどの応用で現れる。
• BQPをより大きなQP問題に再定式化する手法の非効率性を克服。この手法は構造的利点を失い、計算コストが増加する。
• 多様なBQPインスタンスタイプにおける、構成、局所探索、メタヒューリスティクスなどのヒューリスティック戦略の性能を評価すること。
• 貪欲ヒューリスティックなどの主要アルゴリズムの近傍構造の計算量と最悪ケース性能比といった理論的性質を確立すること。
• BQPインスタンスの包括的テストベッドの提供と、最先端のQPソルバーとのヒューリスティック性能の比較。

提案手法

• BQPの初期実行可能解を生成するため、貪欲選択および行マージ戦略を含む複数の構成ヒューリスティクスを提案する。
• 1変数ずつを反転する「フラップ近傍」と、変数近傍降下（VND）を用いた局所探索により、解を反復的に改善する。
• 構造的インスタンスにおける解の品質向上を目的に、クラスタリングを活用した行マージヒューリスティクスを導入する。
• 多様化を実現するMulti-Startヒューリスティクスを用い、解空間の異なる領域を探索する。特にランダムインスタンスにおいて顕著な有効性を示す。
• BQP固有のヒューリスティクスと、BQPを標準QPに再定式化するQPベースの手法を比較。既存のQPソルバーを用いる。
• 近傍構造の計算量を分析し、貪欲アルゴリズムのタイトな最悪ケース性能比1/2を導出する。

実験結果

リサーチクエスチョン

• RQ1 異なるインスタンスタイプにおいて、BQP固有のヒューリスティクスとQPベースの再定式化手法の解の品質と実行時間の違いは何か？
• RQ2 構造的インスタンス、ランダムインスタンス、行列因子分解インスタンスにおいて、貪欲、Multi-Start、Row-Merge、VNDの各ヒューリスティクス戦略の中で、どれが最も優れた性能を発揮するか？
• RQ3 BQPにおける貪欲構成ヒューリスティクスの理論的最悪ケース性能比は何か？
• RQ4 近傍探索アルゴリズム（例：フラップ、スワップ）の計算量は、問題サイズに伴いどのようにスケーリングされるか？
• RQ5 QPベースの再定式化手法が、どのような状況で競争力を持ち、数値的・構造的問題により失敗するのか？

主な発見

• 小さなクラスタを用いたRow-Mergeヒューリスティクスは、構造的BQPインスタンスにおいて単純なMulti-Startヒューリスティクスを著しく上回り、実世界の応用において価値があることが示された。
• ランダムインスタンスではMulti-Startヒューリスティクスが優れた結果を達成し、平坦で構造のない解空間において有効であることが示された。
• QPベースの再定式化手法は「正方」または近い正方のインスタンス（m ≈ n）でのみ良好に動作するが、大規模な負の重みを有するMax Bicliqueインスタンスでは失敗またはオーバーフローを起こす。
• 貪欲構成ヒューリスティクスの最悪ケース性能比はタイトに1/2であることが判明し、その近似品質の理論的上限が確立された。
• n ≫ m の大きなインスタンスでは全探索がMIPよりも効率的であり、正方インスタンスではMIPが優勢である。これはインスタンスの特性が極めて重要であることを示唆する。
• QPベースのソルバーは初期化に多大な時間を要し、長時間の実行が保証されない限り、BQP固有のヒューリスティクスを上回らない。これは、セットアップコストと解の品質のトレードオフを示している。