[論文レビュー] Noisy and Incomplete Boolean Matrix Factorizationvia Expectation Maximization

Lifan Liang, Songjian Lu|arXiv (Cornell University)|May 29, 2019

Error Correcting Code Techniques参考文献 16被引用数 4

ひとこと要約

本稿では、期待値最大化（EM）を用いた新しい確率的ブール行列因子分解アルゴリズムを提案する。この手法は、潜在的要因の形状に関する仮定を排除し、ベータ分布を用いて連続的パラメータをモデル化することで、再パrameterizationを介した勾配上昇を可能にする。ノイズが多く欠損値を含むデータ、特に要因サイズに顕著な差が生じる状況において、LoM やメッセージパッシングといった最先端手法を上回る性能を発揮する。合成データおよび遺伝子発現解析や脳領域セグメンテーションを含む実世界の応用例でもその有効性が示された。

ABSTRACT

Probabilistic approach to Boolean matrix factorization can provide solutions robustagainst noise and missing values with linear computational complexity. However,the assumption about latent factors can be problematic in real world applications.This study proposed a new probabilistic algorithm free of assumptions of latentfactors, while retaining the advantages of previous algorithms. Real data experimentshowed that our algorithm was favourably compared with current state-of-the-artprobabilistic algorithms.

研究の動機と目的

• 実世界のデータではしばしば現実的でない強い仮定を伴う既存のブール行列因子分解（BMF）手法の限界を是正すること。
• 要因構造に関する事前仮定なしに、ノイズや欠損値を効果的に処理できる、堅牢でスケーラブルなBMFアルゴリズムの開発。
• 欠損値やノイズを含む本質的に不完全なデータが特徴の遺伝子発現解析や脳領域セグメンテーションといった実世界の応用分野での性能向上。
• 連続的パラメータ化による要因サイズや形状に対する制約の緩和を通じて、多様な要因パターンの有効な学習を可能にすること。

提案手法

• 潜在的要因を[0,1]の範囲にある連続的パラメータとしてモデル化し、ベータ分布から抽出することで、固定形状を仮定しない柔軟な表現を可能にする。
• パラメータを[0,1]から(−∞, +∞)に再パラメータ化することで、効率的な勾配上昇最適化を可能にする。
• 期待値最大化（EM）フレームワーク内で、潜在的要因と一様ノイズを同時に推定する。
• 生成プロセスでは、観測行列、要因行列、およびそれらの論理的組み合わせ（OR-AND演算）の各要素に対して独立なベルヌーイ分布を用いる。
• EMを用いて尤度を最大化し、Eステップでは後方確率を計算し、Mステップでは勾配上昇によりパラメータを更新する。
• 連続的かつ微分可能なパラメータの使用により、大規模なブール行列に対してもスケーラブルかつ効果的な手法である。

実験結果

リサーチクエスチョン

• RQ1 潜在的要因の形状に固定または均一な仮定をしないブール行列因子分解アルゴリズムは、ノイズが多く欠損値を含むデータにおいても堅牢な性能を発揮できるか？
• RQ2 潜在的要因構造に関する仮定を緩和することで、欠損値やノイズを含む実世界のバイオメディカルデータセットにおける性能にどのような影響を与えるか？
• RQ3 連続的パラメータ化と勾配上昇を組み合わせたEMベースの手法は、LoM やメッセージパッシングといった既存の確率的BMF手法を上回る性能を発揮するか？
• RQ4 要因サイズや形状に関する事前知識なしに、遺伝子発現データや空間的トランスクリプトミクスにおいて、意味のある生物学的パターンをどの程度回復できるか？

主な発見

• 要因サイズが変動し、ノイズレベルが低～中程度の合成データにおいて、提案手法のEMアルゴリズムはメッセージパッシングおよびLoMを上回り、特に要因サイズの差が顕著な場合に顕著な優位性を示した。
• MovieLensデータセットにおいて、95%の観測データ下でEMアルゴリズムは68.2%の正答率を達成し、メッセージパッシング（66.4%）およびOrM（64.7%）を上回った（100Kデータセット）。
• 乳がん亜タイプ分類において、EMアルゴリズムは81.3%の正答率を達成し、LoM（77.8%）およびメッセージパッシング（77.7%）を顕著に上回った。特にHer2およびノーマル様亜タイプの区別において優れた性能を示した。
• 空間的トランスクリプトミクスを用いた海馬領域セグメンテーションでは、空間的事前知識なしに2～15の要因に対して空間的に一貫性のあるクラスタを効果的に同定した。これは、欠損データやノイズに対して高い耐性を示している。
• 観測率が低い状況（例：1%の観測データ）においても、EMアルゴリズムは安定した性能を維持したが、LoMは観測率が30%未満に下がると性能が著しく低下した。
• 要因サイズに関する制限的な仮定を避けることで、データ内に存在する微細で高分散性のパターンを効果的に捉える能力が向上し、生物学的に不均一な亜タイプの分類性能が向上したことが裏付けられた。