[論文レビュー] Computing approximate PSD factorizations

Amitabh Basu, Michael Dinitz+1 more|arXiv (Cornell University)|Feb 23, 2016

Advanced Graph Theory Research参考文献 14被引用数 8

ひとこと要約

本稿では、PSDランクが固定されている非負行列の近似正定値（PSD）因子分解を多項式時間で計算するアルゴリズムを提示する。この手法は、一般の多面体的制約内での正確な因子分解に帰着させ、有理近似とスペクトル射影を用いて、$\|M - UV\|_{\infty} \leq \epsilon\|M\|_{\infty}$ の誤差境界を達成する。実行時間は行列次元に関して多項式的であり、ランクと誤差許容度に関しては指数的である。

ABSTRACT

We give an algorithm for computing approximate PSD factorizations of nonnegative matrices. The running time of the algorithm is polynomial in the dimensions of the input matrix, but exponential in the PSD rank and the approximation error. The main ingredient is an exact factorization algorithm when the rows and columns of the factors are constrained to lie in a general polyhedron. This strictly generalizes nonnegative matrix factorizations which can be captured by letting this polyhedron to be the nonnegative orthant.

研究の動機と目的

• 固定ランクかつ有界誤差を伴う非負行列の近似PSD因子分解のための多項式時間アルゴリズムの開発。
• 多面体的制約を用いて、非負行列因子分解技術をより広いクラスのPSD因子分解へと拡張すること。
• 正確なランクが固定されている場合に、低ランクPSD因子分解を効率的に計算できるかどうかという未解決の問題に取り組むこと。
• 多面体のスラック行列を低ランクPSD因子分解によって近似する計算的に実行可能な手法を提供すること。
• チューリングマシンモデルにおける近似誤差と実行時間の理論的保証を確立すること。

提案手法

• 問題をPSDコーン制約によって定義される一般の多面体内での正確な因子分解に還元する。
• 実数演算をチューリングモデルで扱うために、多項式方程式の解に対する有理近似を用い、誤差は$O(\delta)$で抑えられる。
• スペクトル分解は$\delta$の精度内で、$\log(1/\delta)$に関して多項式時間で近似され、数値的安定性が保証される。
• 行列の行と列を、近似最近点射影を用いてPSDコーン上に射影することで、誤差を制御する。
• 近似による誤差項を慎重に追跡・補正し、最終的な因子分解が$\|M - UV\|_{\infty} \leq \epsilon\|M\|_{\infty}$ を満たすようにする。
• アルゴリズムの実行時間は$n$、$m$、および$\log(1/\epsilon)$に関して多項式的であり、固定されたPSDランク$r$に関してのみ指数的依存性を示す。

実験結果

リサーチクエスチョン

• RQ1 非負行列のPSDランクが固定されている場合に、近似PSD因子分解を多項式時間で計算できるか。
• RQ2 近似保証を維持したまま、アルゴリズムをチューリングマシンモデルに適応できるか。
• RQ3 有理近似と近似スペクトル分解を用いた場合でも、アルゴリズムの精度が保持されるか。
• RQ4 この手法を$\|\cdot\|_{1,2}$ や $\|\cdot\|_{\infty,2}$ などの他の行列ノルムに一般化できるか。
• RQ5 ある行列が低PSDランクを持つ行列に近い場合、その行列をよく近似する低ランクPSD因子分解を求めることが可能か。

主な発見

• アルゴリズムは、任意の$\epsilon > 0$に対して、$\|M - UV\|_{\infty} \leq \epsilon\|M\|_{\infty}$ を満たす近似PSD因子分解$M = UV$を計算する。
• 実行時間は行列次元$n$と$m$、および$\log(1/\epsilon)$に関して多項式的であり、固定されたPSDランク$r$に関してのみ指数的依存性を示す。
• 有理近似による多項式方程式と誤差有界のスペクトル分解を用いることで、チューリングマシンモデルでも動作する。
• 有理近似およびスペクトル近似による誤差は制御され、最終的な$\epsilon$-境界に吸収される。
• 因子の行と列が任意の多面体集合（PSDコーンを含む）に属するようにすることで、非負行列因子分解を一般化する。
• 文献における質問1に対する構成的解決を提供し、固定ランクの場合に近似PSD因子分解が多項式時間で計算可能であることを示している。