[論文レビュー] Nonnegative Matrix Factorization (NMF) with Heteroscedastic Uncertainties and Missing data

Guangtun Zhu|arXiv (Cornell University)|Dec 19, 2016

Optical Polarization and Ellipsometry参考文献 1被引用数 15

ひとこと要約

本稿では、非負値行列分解（NMF）に異分散誤差および欠損データを扱えるように拡張した、ベクトル化され収束性を示すアルゴリズムを提示する。Lee & Seungの乗法的更新則を、変動する測定誤差と不完全な観測値に対応できるように拡張したものであり、重み付きコスト最小化を用いる。Pythonで実装されており、銀河間光学分光法データに対して応用され、成分数の異なる条件下でも収束性と頑健性が示された。

ABSTRACT

Dimensionality reduction and matrix factorization techniques are important and useful machine-learning techniques in many fields. Nonnegative matrix factorization (NMF) is particularly useful for spectral analysis and image processing in astronomy. I present the vectorized update rules and an independent proof of their convergence for NMF with heteroscedastic measurements and missing data. I release a Python implementation of the rules and use an optical spectroscopic dataset of extragalactic sources as an example for demonstration. A future paper will present results of applying the technique to image processing of planetary disks.

研究の動機と目的

• 天文学的データセットにおける非一様な測定誤差および欠損データを扱えるように、標準的なNMFを拡張すること。
• これらの条件下で、乗法的更新則の数学的に厳密なベクトル化された定式化を提供すること。
• 提案された更新則の下で、重み付きコスト関数が非増加であることを証明すること。
• スパース行列、マスク、投影モードをサポートする生産用途に適したPython実装（NonnegMFPy）を公開すること。
• 実際の銀河間光学分光データに対して、本手法の性能を示すこと。

提案手法

• 異分散誤差を考慮するための重み行列Vを組み込んだ、NMFのベクトル化された乗法的更新則を提案する。
• 欠損データを処理するために、コスト関数からそのエントリを除外するマスク行列Mを導入する。
• 測定誤差と欠損値を含む一般化された重み付きコスト関数を導出する。
• 補助関数法に基づく独立した証明により、更新則の下で重み付きコストが非増加であることを示す。
• スパース行列と投影モード（H_only, W_only）をサポートするPythonでのアルゴリズム実装を行う。
• 実際の銀河スペクトルデータセットに本手法を適用し、逆分散を重みとして、欠損フラックス値に対してマスクを用いた。

実験結果

リサーチクエスチョン

• RQ1 標準的なNMFの乗法的更新則は、非一様な測定誤差と欠損データを扱えるように一般化可能であり、収束性を保つことができるか？
• RQ2 提案された更新則の下でも、重み付きコスト関数は非増加のままであり、アルゴリズムの安定性が保証されるか？
• RQ3 測定誤差と欠損データを考慮したNMFアルゴリズムの性能は、実際の天文学的分光データに対して標準NMFと比べてどのように異なるか？
• RQ4 スパースデータと投影モードをサポートするPythonのようなベクトル化言語で、本手法は効率的に実装可能か？
• RQ5 成分数の変化が、誤差と欠損値を伴う状況下での因子分解の収束性と品質に与える影響は何か？

主な発見

• 異分散誤差および欠損データを伴うNMFのための提案されたベクトル化された更新則は、重み付きコスト関数が非増加であることを保証し、収束性を証明する。
• アルゴリズムは銀河間光学分光法データセット上で正常に収束し、異なる成分数の条件下でも反復回数に応じて重み付きコストが減少した。
• Python実装（NonnegMFPy）は、完全な因子分解と投影モードを両方サポートしており、Hが与えられたもとでのWの学習や、逆にWが与えられたもとでのHの学習を効率的に行える。
• マスク行列の使用と分光例における逆分散を重みとしたことから、スパースデータと欠損値を効果的に処理できることを実証した。
• コードはPyPIおよびGitHubで公開されており、ドキュメントとユーザーガイドを併記しているため、天文学的データ解析分野への導入が容易である。
• 大規模な天文学的調査において一般的な測定誤差とデータ不完全性を考慮する点で、本手法は標準NMFを改善している。