[論文レビュー] Intersecting Faces: Non-negative Matrix Factorization With New Guarantees

Rong Ge, James Zou|arXiv (Cornell University)|Jul 8, 2015

Medical Image Segmentation Techniques参考文献 23被引用数 11

ひとこと要約

この論文は、より緩い条件下でも一意的かつ最小体積の因子分解を可能にする、分離可能な非負値行列分解（NMF）の一般化であるサブセット分離可能な非負値行列分解（NMF）を導入する。著者らは、サブセット分離性を満たす条件下で真の因子分解を保証的に回復できる Face-Intersect アルゴリズムを提案し、わずかな敵対的ノイズに対しても頑健である。合成データおよび実際の生物学的データにおけるシミュレーションでは、最先端の手法を上回る性能を示した。

ABSTRACT

Non-negative matrix factorization (NMF) is a natural model of admixture and is widely used in science and engineering. A plethora of algorithms have been developed to tackle NMF, but due to the non-convex nature of the problem, there is little guarantee on how well these methods work. Recently a surge of research have focused on a very restricted class of NMFs, called separable NMF, where provably correct algorithms have been developed. In this paper, we propose the notion of subset-separable NMF, which substantially generalizes the property of separability. We show that subset-separability is a natural necessary condition for the factorization to be unique or to have minimum volume. We developed the Face-Intersect algorithm which provably and efficiently solves subset-separable NMF under natural conditions, and we prove that our algorithm is robust to small noise. We explored the performance of Face-Intersect on simulations and discuss settings where it empirically outperformed the state-of-art methods. Our work is a step towards finding provably correct algorithms that solve large classes of NMF problems.

研究の動機と目的

• 分離可能なNMFの概念を、より広範な問題のクラスに一般化するため、より自然で一般的な条件としてサブセット分離性を導入すること。
• 自然な幾何的条件下で、サブセット分離可能なNMFを解く保証的な正しく頑健なアルゴリズムを開発すること。
• 一意的または最小体積のNMF因子分解のためには、サブセット分離性が必要条件であることを示すこと。
• 精度とノイズへの頑健性の観点から、Face-Intersectアルゴリズムを最先端のNMFソルバーと比較して実験的に評価すること。
• 分離可能なNMFを超える、はるかに広いクラスのNMF問題に対して保証的な正しく頑健なアルゴリズムを可能にする理論的基盤を確立すること。

提案手法

• 分離可能なNMFとは異なり、各ソース（Wの行）が個々の特徴ではなく、特徴の組み合わせ（面）によって一意に表現される、サブセット分離性の概念を導入する。
• データポイントが対応する特徴の部分集合に対応する面（アフィン包）の交差を用いて、潜在的成分を同定する Face-Intersect アルゴリズムを開発する。
• 非負値データにおける凸包と面の幾何的性質を活用し、支持超平面の交差によってWの真の成分を特定する。
• 適切な面の充填条件が満たされれば、Face-Intersectがノイズのない状況で真のWとA行列を正確に回復することを証明する。
• 有界な摂動のもとで、アルゴリズムの出力が真の因子分解に近いまま保たれることを示し、わずかな敵対的ノイズに対しても頑健であることを確立する。
• 合成データおよび実世界のDNAメチル化データを用いたシミュレーションにより、本手法を検証し、Anchor-WordsおよびProjected Gradient法と比較する。

実験結果

リサーチクエスチョン

• RQ1 サブセット分離性は、因子分解の保証的回復を可能にする分離性の一般化として機能するか？
• RQ2 どのような幾何的条件下で、Face-Intersectアルゴリズムはサブセット分離可能なNMFにおいて真の因子分解を保証的に回復できるか？
• RQ3 既存の最先端NMFソルバーと比較して、Face-Intersectアルゴリズムの精度と頑健性はどのように評価できるか？
• RQ4 一意的または最小体積のNMF因子分解のためには、サブセット分離性が必要条件であるか？
• RQ5 低ノイズレベルの実用的状況において、Face-Intersectアルゴリズムは既存の手法を上回る性能を示すか？

主な発見

• 合成シミュレーションにおいて、低ノイズ条件下で Face-Intersect は W 行列（潜在的成分）の再構成において Anchor-Words や Projected Gradient を顕著に上回った。
• 観測されたデータ行列 M̃ の再構成において、ノイズレベルが12.5%未満では Face-Intersect は Anchor-Words 略して優れており、両者とも Projected Gradient よりも著しく優れた性能を示した。
• 5つの細胞タイプと600サンプルを含む実際のDNAメチル化データにおいて、Face-Intersect は真の W 行列を回復する点で Anchor-Words よりも顕著に正確だった。
• ノイズが8%未満の範囲では、M および M̃ の再構成において Face-Intersect は Anchor-Words よりも統計的に優れた性能を示したが、その差は絶対値としては小さかった。
• ノイズが増加するに従い、アルゴリズムの性能は劣化し、すべての手法が約12.5%のノイズで収束したため、頑健性の限界を超える閾値があることが示された。
• 一意的または最小体積のNMF因子分解のためにはサブセット分離性が必要条件であることが示され、理論的意義が裏付けられた。