[論文レビュー] On Restricted Nonnegative Matrix Factorization

Dmitry Chistikov, Stefan Kiefer+3 more|arXiv (Cornell University)|May 23, 2016

Matrix Theory and Algorithms参考文献 2被引用数 3

ひとこと要約

本稿は、制限付き非負値行列分解（RNMF）と確率的オートマトンの間に深い関係を確立し、1971年にパズが提起した未解決問題を解消した。具体的には、最小被覆確率的オートマトンが常に有理数確率を持つとは限らないことを示した。主な結果は、有理数行列ですら、最小RNMF要因に無理数を含む必要がある場合があること、つまり1974年に提唱された長年の主張を覆した。

ABSTRACT

Nonnegative matrix factorization (NMF) is the problem of decomposing a given nonnegative $n imes m$ matrix $M$ into a product of a nonnegative $n imes d$ matrix $W$ and a nonnegative $d imes m$ matrix $H$. Restricted NMF requires in addition that the column spaces of $M$ and $W$ coincide. Finding the minimal inner dimension $d$ is known to be NP-hard, both for NMF and restricted NMF. We show that restricted NMF is closely related to a question about the nature of minimal probabilistic automata, posed by Paz in his seminal 1971 textbook. We use this connection to answer Paz's question negatively, thus falsifying a positive answer claimed in 1974. Furthermore, we investigate whether a rational matrix $M$ always has a restricted NMF of minimal inner dimension whose factors $W$ and $H$ are also rational. We show that this holds for matrices $M$ of rank at most $3$ and we exhibit a rank-$4$ matrix for which $W$ and $H$ require irrational entries.

研究の動機と目的

• 有理数非負値行列が常に有理数要因を用いた制限付きNMFをもつのかを調査すること。
• パズ（1971年）が提起した、有理数遷移確率を持つ最小被覆確率的オートマトンの存在に関する未解決問題を解消すること。
• 制限付きNMFとネストド多面体問題（NPP）の関係を明確にすること。
• 有理数行列の制限付き非負値ランクが、有理数要因行列を用いてどのように達成可能かの条件を特定すること。
• 特に有理数上でのRNMFの計算複雑性と代数的構造を調査すること。

提案手法

• ラベル付きマルコフ連鎖（LMC）における被覆関係と制限付きNMFの間の明示的対応関係を確立し、RNMFを確率的オートマトン理論と結びつけた。
• ネストド多面体問題（NPP）の幾何的考察を通じて最小頂点解を分析し、行列分解の制約を多面体幾何に翻訳した。
• 特定のランク4の有理数行列Mを構築し、NPPにおいて5点の有理数解が存在しないことを示し、Q上での制限付き非負値ランクが6であることを証明した。
• スラック関数と区間解析を用いて、NPPにおける最小頂点配置が無理数座標を必要とすることを厳密に証明した。
• RNMFと最小確率的オートマトンの双対性を活用し、最小被覆オートマトンが有理数確率をもたない場合があることを示した。
• 代数的手法を用いて、有理数行列の最小RNMFが要因行列WとHに無理数を含む必要があることを実証した。

実験結果

リサーチクエスチョン

• RQ1 すべての有理数行列が、最小内次元における有理数要因WとHを用いた制限付きNMFをもつのか？
• RQ2 1974年に提唱された主張とは異なり、有理数遷移確率を持つ最小確率的オートマトンが、与えられたLMCを常に被覆できるのか？
• RQ3 有理数行列の制限付き非負値ランクが、常に有理数要因行列を用いて達成可能なのか？
• RQ4 入力多面体が有理数であるとき、ネストド多面体問題における最小頂点数はいくつか？
• RQ5 RNMF要因に無理数が現れる状況を代数的または幾何的に特徴づけられるか？

主な発見

• 最小内次元における有理数要因をもたないランク4の有理数行列が存在し、WとHに無理数を含む必要があることを証明した。
• この行列のQ上での制限付き非負値ランクは6であり、非負値ランクは5であるため、有理数と実数におけるRNMFの間に明確な分離が生じている。
• 特定のLMCに対する最小被覆確率的オートマトンは、有理数遷移確率をもてないため、1974年の主張を否定した。
• このインスタンスにおけるNPPの最小頂点解は無理数座標を必要とし、有理数解が常に存在しないことを確認した。
• ランクが3以下の行列については、最小内次元における有理数RNMFが常に存在することを示し、ランク4が閾値であることを明らかにした。
• スラック関数解析により、NPPにおける重要な頂点のx座標が正確に2−√2（無理数）でなければならないことが証明され、無理数要因の必要性が裏付けられた。