[論文レビュー] A General Framework for Mixed Graphical Models

Eunho Yang, Pradeep Ravikumar+4 more|arXiv (Cornell University)|Nov 2, 2014

Soil Geostatistics and Mapping参考文献 49被引用数 14

ひとこと要約

本稿では、二値、カウント、連続変数などの混合型変数を、有向および無向エッジを併せ持つハイブリッドグラフ構造を用いてモデル化する、新しい種類の多変量分布であるブロック指向マルコフ確率場（BDMRFs）を導入する。ユニバリアート指数型分布族を用い、ブロック-DAGを介してそれらを連結することで、高次元の混合データにおける複雑な依存構造のスケーラブルかつ統計的に保証された推定が可能になる。このフレームワークは、ゲノミクスやその他のビッグデータ応用分野で実証的に成功を収めた。

ABSTRACT

"Mixed Data" comprising a large number of heterogeneous variables (e.g. count, binary, continuous, skewed continuous, among other data types) are prevalent in varied areas such as genomics and proteomics, imaging genetics, national security, social networking, and Internet advertising. There have been limited efforts at statistically modeling such mixed data jointly, in part because of the lack of computationally amenable multivariate distributions that can capture direct dependencies between such mixed variables of different types. In this paper, we address this by introducing a novel class of Block Directed Markov Random Fields (BDMRFs). Using the basic building block of node-conditional univariate exponential families from Yang et al. (2012), we introduce a class of mixed conditional random field distributions, that are then chained according to a block-directed acyclic graph to form our class of Block Directed Markov Random Fields (BDMRFs). The Markov independence graph structure underlying a BDMRF thus has both directed and undirected edges. We introduce conditions under which these distributions exist and are normalizable, study several instances of our models, and propose scalable penalized conditional likelihood estimators with statistical guarantees for recovering the underlying network structure. Simulations as well as an application to learning mixed genomic networks from next generation sequencing expression data and mutation data demonstrate the versatility of our methods.

研究の動機と目的

• 二値、カウント、連続変数などの異種のデータタイプ間の直接的な依存関係をモデル化できる、計算的に扱いやすい多変量分布の不足に対処すること。
• 特に高次元設定下でも、混合変数タイプ間で豊富な依存構造をサポートする一般化されたパrametric多変量分布族を構築すること。
• 混合グラフィカルモデルにおける潜在的なネットワーク構造を学習するための、スケーラブルかつ罰則付き条件付き尤度推定器を提供し、強い統計的保証を伴うこと。
• 遺伝子発現、突然変異、メチル化などの、混合オミックスデータの統合的解析を可能にし、生物学的に意味のある規制的関係を解明すること。
• 混合変数タイプを許容し、統一されたフレームワーク内で有向および無向の両方の依存関係を可能にする、従来のグラフィカルモデル（ガウスモデルやイジングモデル）の一般化すること。

提案手法

• ノードごとのユニバリアート指数型分布族から構築された多変量分布族として、ブロック指向マルコフ確率場（BDMRFs）を提案する。
• 変数のブロック間の条件付き依存関係を表すために、ブロック指向無環グラフ（DAG）を用い、ブロック間には有向エッジ、ブロック内には無向エッジを配置する。
• 指数型分布族からの条件付き分布を連結することで結合分布を構築し、緩い条件下でも正規化可能であることを保証する。
• 理論的保証（一貫性およびスパarsity）を伴う罰則付き条件付き尤度推定器を用いて、潜在的なネットワーク構造を回復する。
• 実世界のデータに適用するため、SNP（二値）、RNA-seq（カウント）、メチル化（連続）といった混合ゲノム変数を、一つの統合モデルでモデル化する。
• 次世代シーケンシングから得た乳がんゲノミクスデータを用いた実世界の応用と、シミュレーションを用いた検証を実施する。

実験結果

リサーチクエスチョン

• RQ1 二値、カウント、連続変数などの混合型変数間の複雑な依存関係を、一つの多変量分布内で統一的にモデル化できるか？
• RQ2 混合変数タイプの条件付き指数型分布族から構築された結合分布の正規化可能性を保証する条件は何か？
• RQ3 スケーラブルかつ罰則付き尤度推定器は、理論的保証を伴って高次元混合データにおける真の潜在的ネットワーク構造を回復できるか？
• RQ4 提案されたBDMRFフレームワークは、異なるタイプのゲノムバイオマーカー間の生物学的に意味のある規制的関係をどれほど正確に同定できるか？
• RQ5 変数ブロック上の真のDAG構造が未知または部分的に誤って指定されている場合、モデルはどの程度依存関係を学習できるか？

主な発見

• BDMRFフレームワークは、二値、カウント、連続、歪度のある連続変数を含む、広範な混合変数タイプを、一つの統一された確率的モデル内で扱える。
• 提案されたモデルは、比較的緩い条件下でも正規化可能であり、多様な統計的応用に応用可能である。
• 罰則付き条件付き尤度推定器は、高次元設定下でも高い確率で真の潜在的ネットワーク構造を一貫して回復する。
• 乳がんゲノミクス応用において、TP53突然変異がADAM6発現に影響を与えること、FGF3突然変異がCCND1発現に影響を与えることといった、既知の生物学的関係を的確に同定した。
• シミュレーションでは、混合グラフィカル構造における有向および無向エッジを、正確に回復する高い性能を示した。
• ガウスモデルやイジングモデルといった従来のグラフィカルモデルを一般化し、混合データタイプに両方の有向および無向依存関係を統合的に拡張した。