[論文レビュー] New lower bounds on nonnegative rank using conic programming

Hamza Fawzi, Pablo A. Parrilo|arXiv (Cornell University)|Oct 25, 2012

Advanced Optimization Algorithms Research被引用数 6

ひとこと要約

本稿では、非負行列の非負ランクの新たな下界を、錐計画法を用いて導出する。特に、非負性制約を課したノルムの最小化問題として定式化され、コポジティブプログラミングとして定式化され、半定値プログラミングによる緩和が行われる。この下界はスパarsityに依存しない代替手法であり、特定の行列に対して既存の手法を上回る性能を示す。

ABSTRACT

The nonnegative rank of an entrywise nonnegative matrix A of size mxn is the smallest integer r such that A can be written as A=UV where U is mxr and V is rxn and U and V are both nonnegative. The nonnegative rank arises in different areas such as combinatorial optimization and communication complexity. Computing this quantity is NP-hard in general and it is thus important to find efficient bounding techniques especially in the context of the aforementioned applications. In this paper we propose a new lower bound on the nonnegative rank which, unlike most existing lower bounds, does not explicitly rely on the matrix sparsity pattern and applies to nonnegative matrices with arbitrary support. The idea involves computing a certain nuclear norm with nonnegativity constraints which allows to lower bound the nonnegative rank, in the same way the standard nuclear norm gives lower bounds on the standard rank. Our lower bound is expressed as the solution of a copositive programming problem and can be relaxed to obtain polynomial-time computable lower bounds using semidefinite programming. We compare our lower bound with existing ones, and we show examples of matrices where our lower bound performs better than currently known ones.

研究の動機と目的

• 行列のスパarsityパターンに依存しない非負ランクの新たな下界の開発。
• 標準のノルムに基づくランク下界を非負ランク設定に一般化する錐計画法の定式化。
• 実用的な計算を可能にする半定値プログラミングを用いた多項式時間計算可能な緩和。
• 任意のサポートを持つテスト行列において、既存の下界を上回る性能の実証。

提案手法

• 因子行列に非負性制約を課したノルム最小化問題として非負ランクの下界を定式化。
• 得られた最適化問題をコポジティブプログラミング問題として表現し、非負ランクのタイトな下界を提供。
• コポジティブプログラムを半定値プログラムに緩和し、効率的かつ多項式時間で計算可能にする。
• 緩和問題の最適値を非負ランクの計算可能な下界として用いる。
• スパarsity構造に依存しない、任意のサポートを持つ行列に適用。
• 計算された下界を既知の下界と比較し、性能を評価。

実験結果

リサーチクエスチョン

• RQ1 錐計画法的手法により、行列のスパarsityに依存しないよりタイトな非負ランク下界が得られるか？
• RQ2 提案されたコポジティブ定式化は、既存の下界と比較してタイトさと計算可能性の面でどのように異なるか？
• RQ3 コポジティブプログラムの半定値緩和は、元の下界のタイトさをどの程度保持できるか？
• RQ4 スパースな行列に依存する下界と比較して、密行列や任意のサポートを持つ行列において本手法は優れた性能を示すか？

主な発見

• 提案された下界は非負性制約を課したノルムに基づくものであり、標準のランク下界を非負ランク設定に一般化する。
• 下界はコポジティブプログラミングとして定式化され、理論的にタイトであるが、直接解くには計算が困難である。
• コポジティブプログラムの実行可能で多項式時間で計算可能な半定値緩和が可能である。
• 実験的結果から、任意のサポートを持つ特定の行列において、既存の手法を上回る性能を示しており、特にスパarsityに基づく下界が失敗する場合に顕著である。