[論文レビュー] Information theory, multivariate dependence, and genetic network inference

Ilya Nemenman|ArXiv.org|Jun 7, 2004

Gene Regulatory Network Analysis参考文献 7被引用数 33

ひとこと要約

本稿では、遺伝的ネットワークにおける多次元統計的依存関係を定義・推定する最大エントロピーに基づくフレームワークを提案する。この手法により、サンプル数が不足している状況下でも相互作用の信頼性の高い検出が可能になる。完全な連関確率分布の推定を避けて、情報理論的量（相互作用マルチインフォーメーションなど）を直接推定することで、可能な状態の数に比べてサンプル数が著しく少ない場合でも真の依存関係を効果的に回復でき、限られたデータからのゲノムネットワーク推定の可能性を示している。

ABSTRACT

We define the concept of dependence among multiple variables using maximum entropy techniques and introduce a graphical notation to denote the dependencies. Direct inference of information theoretic quantities from data uncovers dependencies even in undersampled regimes when the joint probability distribution cannot be reliably estimated. The method is tested on synthetic data. We anticipate it to be useful for inference of genetic circuits and other biological signaling networks.

研究の動機と目的

• 高次元の生物学的データにおいて、直接的・間接的・協同的相互作用を区別できる、多次元統計的依存関係の普遍的定義を形式化すること。
• 従来のベイジアンネットワークや条件付き独立性手法が、ループ構造や高次相互作用を捉えることのできない限界を克服すること。
• 結合確率分布の完全な推定を必要とせず、データから直接統計的依存関係を推定する手法を開発すること。特に、サンプル数が少ない状況下での応用を想定すること。
• サンプル数が可能な状態の組み合わせ数に比べて著しく少ない場合に、合成遺伝的ネットワークで真の相互作用を検出できるかの妥当性を検証すること。
• 高スループットの発現データから、データが疎であっても遺伝的・シグナル伝達ネットワークを信頼性高く推定する基盤を提供すること。

提案手法

• 下位の周辺分布で制約された最大エントロピー（MaxEnt）分布を用いて、結合確率分布を近似し、下位の統計量では捉えきれない依存関係を分離する。
• 特定の周辺制約下で、完全な結合分布のエントロピーとそのMaxEnt近似のエントロピーとの差として、相互作用マルチインフォーメーションを定義する。
• 特にディリクレ事前分布とNSB法を用いた直接エントロピー推定技術を適用し、サンプル数が可能な状態数に比べて著しく少ない場合でも、信頼性の高いエントロピー推定を実現する。
• 多変量依存関係の尺度として、相互作用マルチインフォーマーションΔを用い、統計的有意性はΔ^(·)/δΔ^(·)（δΔ^(·)はΔ^(·)の誤差）で定義される証拠E^(·)によって評価する。
• M=3の変数と周辺の基数が約50の合成データを用い、サンプル数Nを50から125,000まで変化させ、推定性能を評価する。
• 依存関係を図式的に表現する表記法を導入し、特定の変数の組み合わせに依存関係を局在化することで、直接的・間接的依存関係の区別を可能にする。

実験結果

リサーチクエスチョン

• RQ1 遺伝的ネットワークにおいて、直接的・協同的・間接的相互作用を区別できるように、多次元統計的依存関係を形式的に定義可能か？
• RQ2 結合確率分布を信頼性を持って推定できないような高次元でサンプル数が不足しているデータから、意味のある統計的依存関係を推定することは可能か？
• RQ3 エントロピー推定に基づく直接的相互作用推定の性能は、結合分布を完全に推定する必要のある従来手法と比べてどのように異なるか？
• RQ4 サンプル数が可能な状態の組み合わせ数に比べて著しく少ない場合、相互作用マルチインフォーマーションΔが真の依存関係をどの程度検出できるか？
• RQ5 隠れ変数や間接的効果によって生じる誤った高次依存関係を、直接的相互作用と信頼性高く区別できるか？

主な発見

• サンプル数Nが可能な状態の組み合わせ数Kに比べて著しく少ない状況下でも、合成データにおいて真の多次元依存関係を効果的に回復でき、N ≲ Kの範囲で信頼性のある推定が可能である。
• Nが√K程度の水準でも適切な依存関係の回復が達成され、結合分布が推定可能になる以前から、依存関係の証拠E^(·)が有意義な水準に達する。
• ディリクレ事前分布やNSB法などの直接エントロピー推定法により、エントロピーの推定が著しく不十分な状況下でも、相互作用マルチインフォーマーションΔは推定可能であり、従来のヒストグラムベース手法に比べて優れた性能を示す。
• 相互情報量が非ゼロとなるのは間接的経路（例：X1–X2–X3）に起因する場合でも、この手法は正しくそれらを特定し、実際のリンクがない場合に直接的相互作用と誤って帰属するのを回避する。
• N ≲ 100のゲノム的応用では、3値離散化においてm* ≈ 4までの低次元相互作用が信頼性高く検出可能であり、高度なエントロピー推定器を用いることでm* ≈ 8まで拡張可能であると示唆される。
• MaxEnt近似と相互作用マルチインフォーマーションに基づく理論的枠組みにより、元の分布のパラメトリックな形を仮定しなくても、特定の変数集合からの寄与として統計的依存関係を一貫的かつ解釈可能な形で分解できる。