[論文レビュー] Approximation Theory of Matrix Rank Minimization and Its Application to Quadratic Equations

Yun-Bin Zhao|arXiv (Cornell University)|Oct 5, 2010

Sparse and Compressive Sensing Techniques参考文献 22被引用数 6

ひとこと要約

本稿では、行列のランク最小化問題を連続的近似フレームワークとして扱うためのパラメータ関数 φε(X) を導入し、任意の精度で構造的凸半定値計画法（SDP）によってランク最小化問題を近似できることを証明している。主な結果として、実行可能集合に最小ランク解かつ最小フロベニウスノルムを持つ解が存在する場合、近似パラメータ ε → 0 のとき近似解が真の解に収束することを示しており、計算可能かつ効率的なSDPベースの解法を可能にするとともに、二次方程式系が自明解しか持たないための新たな十分条件を提供する。

ABSTRACT

Matrix rank minimization problems are gaining a plenty of recent attention in both mathematical and engineering fields. This class of problems, arising in various and across-discipline applications, is known to be NP-hard in general. In this paper, we aim at providing an approximation theory for the rank minimization problem, and prove that a rank minimization problem can be approximated to any level of accuracy via continuous optimization (especially, linear and nonlinear semidefinite programming) problems. One of the main results in this paper shows that if the feasible set of the problem has a minimum rank element with the least F-norm (i.e., Frobenius norm), then the solution of the approximation problem converges to the minimum rank solution of the original problem as the approximation parameter tends to zero. The tractability under certain conditions and convex relaxation of the approximation problem are also discussed. The methodology and results in this paper provide a new theoretical basis for the development of some efficient computational methods for solving rank minimization problems. An immediate application of this theory to the system of quadratic equations is presented in this paper. It turns out that the condition for such a system without a nonzero solution can be characterized by a rank minimization problem, and thus the proposed approximation theory can be used to establish some sufficient conditions for the system to possess only zero solution.

研究の動機と目的

• NP困難な行列ランク最小化問題（本質的に非凸的かつ不連続的）に対する連続的近似理論の構築。
• ランク最小化問題が、凸または構造的非線形半定値計画法（SDP）によって任意の精度で近似可能となる条件の確立。
• 最小ランク解が最小フロベニウスノルムを持つ場合に、計算可能な最適化によりランク最小化問題を解くための理論的基盤の提供。
• 近似フレームワークを用いて、二次方程式系が自明解のみをもつための条件を同定すること。
• SDPに基づく近似を用いて、二次形式系のゼロ解の一意性に関する新たな十分条件を導出すること。

提案手法

• X の特異値分解に基づく行列関数 Φ と Q を用いて、不連続なランク(X) を近似する連続的関数 φε(X) = tr(Φ(X)) + (1/ε)tr(Q(X)) を導入する。
• ε → 0 のとき φε(X) が rank(X) に収束することを証明し、適切な ε の選択により rank(X) を正確に回復できることを示す。
• 実行可能集合 C を定義する制約のもとで、φε(X) を最小化する非線形SDPとしてランク最小化問題を定式化する。
• 実行可能集合に最小ランク解かつ最小フロベニウスノルムを持つ解が存在する場合、近似問題の解が ε → 0 のとき真の最小ランク解に収束することを確立する。
• 線形制約を扱い、有界な実行可能集合のもとで計算可能性を保証するため、二段階SDP定式化（28）を構築する。
• 二次方程式系 xᵀAᵢx = 0 を対称行列上のランク最小化問題に再定式化し、SDPの可解性を用いて十分条件を導出する。

実験結果

リサーチクエスチョン

• RQ1 どのような条件下で、行列ランク最小化問題が連続最適化問題によって任意の精度で近似可能となるか？
• RQ2 提案された近似関数 φε(X) と真のランク(X) の関係は何か？特定の ε に対して正確に一致させられるか？
• RQ3 近似問題の解がいつ真の最小ランク解に収束するか？
• RQ4 この近似フレームワークを用いて、二次方程式系が自明解のみをもつための十分条件を導出できるか？
• RQ5 新しく導出された十分条件と既存のもの（例：m=2 のとき μ₁A₁ + μ₂A₂ ≻ 0）との関係は何か？

主な発見

• 近似関数 φε(X) は ε → 0 のとき rank(X) に収束し、適切な ε の選択により X のランクを正確に回復できる。
• 実行可能集合 C に最小ランク解かつ最小フロベニウスノルムを持つ解が存在する場合、近似問題の解は ε → 0 のときその最小ランク解に収束する。
• 有界な実行可能集合のもとで、構造的非線形半定値計画法（SDP）を用いてランク最小化問題を任意の精度で近似可能であり、計算的に取り扱える。
• 近似モデル（28）は、実行可能集合に最小ランク解かつ最小フロベニウスノルムを持つ解が存在する場合、最小ランク解を効果的に特定できる。
• 本理論により、xᵀAᵢx = 0 (i=1,…,m) の方程式系が自明解のみをもつための新たな十分条件が得られ、SDPの可解性問題として表現される。
• 導出された十分条件（例：補題4.4）は、既存の結果（m=2 かつ n≥3 のとき μ₁A₁ + μ₂A₂ ≻ 0）よりも強いが整合的であり、SDPソルバーを用いて検証可能である。