[論文レビュー] Bayesian Boolean Matrix Factorisation

Tammo Rukat, Chris Holmes+2 more|arXiv (Cornell University)|Feb 20, 2017

Gene expression and cancer classification参考文献 19被引用数 10

ひとこと要約

本稿では、メトロポリス化ギブスサンプラーを用いた後方分布推論を可能にするベイジアン確率的モデル、OrMachineを紹介する。このモデルは、要因分解および欠損値補完タスクにおいて既存手法を上回り、130万個のマウス脳細胞を含む大規模データセットにもスケーリング可能であり、単一細胞ゲノムデータに埋め込まれた解釈可能な階層的生物学的パターンを明らかにする。

ABSTRACT

Boolean matrix factorisation aims to decompose a binary data matrix into an approximate Boolean product of two low rank, binary matrices: one containing meaningful patterns, the other quantifying how the observations can be expressed as a combination of these patterns. We introduce the OrMachine, a probabilistic generative model for Boolean matrix factorisation and derive a Metropolised Gibbs sampler that facilitates efficient parallel posterior inference. On real world and simulated data, our method outperforms all currently existing approaches for Boolean matrix factorisation and completion. This is the first method to provide full posterior inference for Boolean Matrix factorisation which is relevant in applications, e.g. for controlling false positive rates in collaborative filtering and, crucially, improves the interpretability of the inferred patterns. The proposed algorithm scales to large datasets as we demonstrate by analysing single cell gene expression data in 1.3 million mouse brain cells across 11 thousand genes on commodity hardware.

研究の動機と目的

• 実用的応用における不確実性の定量化に不可欠な、完全な後方分布推論を可能にするベイジアンフレームワークを、ブール行列因子分解のために開発すること。
• 従来のブール行列因子分解手法が点推定やヒューリスティックアルゴリズムに依存するのに対し、確率的推論の欠如を是正すること。
• コンmodityハードウェアを用いて、130万細胞と11,000遺伝子を有する大規模データセット（例：単一細胞遺伝子発現データ）への後方分布推論をスケーリングすること。
• バイナリーデータ（例：遺伝子発現パターン、画像部品）における解釈可能で階層的な潜在構造の同定を可能にすること。
• 原理的な確率的枠組みにおいて、欠損データの補完と事前知識の統合を支援すること。

提案手法

• OrMachineは、ブール積（OR演算）を用いて二つの低ランクバイナリ行列 Z と U を組み合わせることでバイナリーデータをモデル化する：x_{nd} = ⋁_{l=1}^L (z_{nl} ∧ u_{ld})。
• 各観測値が潜在バイナリコードのブール結合である生成プロセスを定義し、潜在変数に事前分布を設定する。
• 後方分布からの効率的かつ並列なサンプリングを可能にするために、メトロポリス化ギブスサンプラーを用いる。
• アルゴリズムは効率的にスケーリング可能であり、4コアデスクトップでは10〜20イテレーション、24コアクラスタでは10〜30分で収束する。
• 多層構造のOrMachineをスタックすることで、下位要因分解からの上位レベルのコードを推論する階層的表現を学習する。
• 欠損データの処理が可能であり、潜在変数に対する情報的事前分布を用いて事前知識を統合できる。

実験結果

リサーチクエスチョン

• RQ1 完全なベイジアンアプローチによるブール行列因子分解は、従来の点推定またはヒューリスティック手法と比較して、より信頼性が高く解釈可能な要因分解を提供できるか？
• RQ2 例えば1000億以上のデータポイントを持つ大規模バイナリーデータセット（例：単一細胞ゲノムデータ）において、後方分布推論はどの程度効率的に実行可能か？
• RQ3 事前に定義された階層的モデル構造を課さずに、潜在空間に意味のある階層的構造が自然に出現するか？
• RQ4 完全な後方分布推論は、最新のメッセージパッシング手法と比較して、行列補完および要因分解タスクの性能を向上させるか？
• RQ5 このモデルは、高スループットな単一細胞データから生物学的に妥当な遺伝子サブセットや細胞状態を効果的に同定できるか？

主な発見

• OrMachineは、シミュレートデータおよび実世界データの両方において、すべての既存手法を要因分解および補完タスクで上回る。
• 本手法は約1.4×10^10個のデータポイント（130万細胞 × 11,000遺伝子）のデータセットにも対応でき、4コアデスクトップでは1時間未満で収束する。
• 後方分布における不確実性の定量化により、特に協調フィルタリングやゲノム分野において誤検出率の制御が向上する。
• 潜在空間に自然に階層的パターンが出現する：潜在次元数が増加するにつれ、密集した遺伝子群がより具体的で生物学的に妥当な機能的グループに分割される。
• 遺伝子セットの機能的豊富度解析により、各推定コードに固有の遺伝子が、既知の生物学的プロセス（例：臭皮膚、海馬）と有意に関連していることが確認され、調整済p値は10^-3から1のオーダーである。
• 単一細胞データにおいて、潜在次元数を増加させると、より分散化された表現が得られ、細胞の割り当てにおける後方分布の不確実性が高まる。これは生物学的特異性の向上を反映している。