[論文レビュー] The Infinite Hierarchical Factor Regression Model

Piyush Rai, Hal Daumé|ArXiv.org|Aug 5, 2009

Bayesian Methods and Mixture Models参考文献 13被引用数 42

ひとこと要約

本稿では、スパースなインド・ビーフ・プロセス（sparse IBP）とキングマンの共祖過程（Kingman’s coalescent）を用いて、スパースな遺伝子-経路関連性、未知の数の潜在的要因、要因間の階層的構造を同時に推定する非パrametricベイジアン要因回帰モデルを提案する。このモデルは、要因数が固定でない、または独立でないという仮定をせず、遺伝子発現解析においてデータ再構成性能、予測性能、解釈可能性を向上させる。

ABSTRACT

We propose a nonparametric Bayesian factor regression model that accounts for uncertainty in the number of factors, and the relationship between factors. To accomplish this, we propose a sparse variant of the Indian Buffet Process and couple this with a hierarchical model over factors, based on Kingman's coalescent. We apply this model to two problems (factor analysis and factor regression) in gene-expression data analysis.

研究の動機と目的

• 標準的因子分析の限界を克服するため、既知の要因数、独立した要因、すべての特徴量が関連するという仮定をしないこと。
• 生物学的現実を反映させるため、遺伝子-経路関係にスパarsityをモデル化し、各経路を調節する遺伝子のサブセットを反映すること。
• 要因間の階層的構造を組み込むことにより、共通の調節機能などの既知の生物学的関係を反映すること。
• 因子分析と因子回帰を統合的に扱う非パrametricフレームワークを提供し、予測性能を向上させること。
• 事後的なクラスタリングや手動チューニングを必要とせず、自動的に要因の階層構造と関連性を同定できること。

提案手法

• 遺伝子-要因（遺伝子-経路）関係をモデル化するため、要因数の非パラメトリック推定とスパarsityを可能にするスパース・インド・ビーフ・プロセス（IBP）の変種を用いる。
• 要因の階層的構造を非パラメトリックな事前分布としてキングマンの共祖過程を用い、要因の進化的な類縁関係をモデル化する。
• 要因負荷行列 V に共祖過程の事前分布を導入することで、階層的要因構造を因子回帰モデルに統合する。
• ギブスサンプリングを用いて、遺伝子選択、要因数、要因負荷、階層構造を同時に推定する。共役事前分布を用いることで計算を効率化する。
• 合成データおよび実際の遺伝子発現データ（E. coli および乳癌）に本モデルを適用し、ベースラインモデルと性能を比較する。
• 二段階の評価を実施：データ再構成（MSE および対数尤度）と因子回帰（バイナリ予測および実数値予測）

実験結果

リサーチクエスチョン

• RQ1 非パラメトリックベイジアンモデルは、遺伝子発現データにおいて、潜在的要因数、それらの階層的関係、およびスパースな遺伝子-要因関連性を同時に推定できるか？
• RQ2 要因に階層的事前分布を組み込むことで、因子回帰におけるデータ再構成性能および予測性能が向上するか？
• RQ3 スパースIBPの変種は、高次元データにおける誤った関連や不要な遺伝子をどのように処理するか？
• RQ4 推定された階層構造を用いて、原理的かつデータ駆動的に生物学的に意味のある顕著な調節経路を同定できるか？
• RQ5 因子回帰タスクにおいて、ロジスティック回帰、BFRM、および分離予測モデルと比較して、本モデルは優れた性能を示すか？

主な発見

• 乳癌データにおけるバイナリ応答予測では、14.6%（±0.48）の誤差率を達成し、ロジスティック回帰（17.5%）およびBFRM（19.8%）を上回った。
• V に共祖過程の事前分布を適用したモデルは、ガウス事前分布（MSE = 0.45、対数尤度は低め）よりも低い再構成誤差（MSE = 0.43）と高い対数尤度を示し、適合度と一般化性能に優れたことが示された。
• 階層的構造により、後方分布が妥当な構成に制約され、不自然な要因階層の探索が削減され、収束が速くなった。
• 推定された階層構造は、要因の顕著性に応じて正しい順序に並べ替えられていた：上位の要因はより多くの遺伝子を調節し、根に近い位置に配置されていた（E. coli および乳癌データで確認）。
• スパースIBPによる変数選択は、誤った遺伝子をフィルタリングしながらも、関連する遺伝子（合成データで226個）を保持した。
• バイナリおよび実数値因子回帰タスクの両方において、ベースラインモデルより優れた予測性能を示し、20回の異なる初期化でも低い分散を示した。