[論文レビュー] Entropy inference and the James-Stein estimator, with application to nonlinear gene association networks

Jean Hausser, Korbinian Strimmer|Research Explorer (The University of Manchester)|Nov 21, 2008

Gene Regulatory Network Analysis参考文献 45被引用数 375

ひとこと要約

本論文は、特にゲノム研究で一般的な「nが小さくpが大きい」状況において、小標本での推定を著しく改善する、エントロピーおよび相互情報量のジェイムズ＝スタイン型縮小推定量を導入する。この手法は、多様なデータモデルにおいて8つの既存推定量を上回り、計算効率が高く、解析的に導出された解を提供する。これにより、限られた遺伝子発現データから正確なエントロピー推定および遺伝子ネットワークの推論が可能になる。

ABSTRACT

We present a procedure for effective estimation of entropy and mutual information from small-sample data, and apply it to the problem of inferring high-dimensional gene association networks. Specifically, we develop a James-Stein-type shrinkage estimator, resulting in a procedure that is highly efficient statistically as well as computationally. Despite its simplicity, we show that it outperforms eight other entropy estimation procedures across a diverse range of sampling scenarios and data-generating models, even in cases of severe undersampling. We illustrate the approach by analyzing E. coli gene expression data and computing an entropy-based gene-association network from gene expression data. A computer program is available that implements the proposed shrinkage estimator.

研究の動機と目的

• 高次元で標本が不足している状況、特にゲノム分野で一般的な「nが小さくpが大きい」設定において、最尤推定量の性能不良を是正すること。
• 小標本領域において、計算的に効率的で統計的に頑健なエントロピー推定量を開発し、既存手法を改善すること。
• エントロピーに基づく測定を用いて、限られた遺伝子発現データから非線形な遺伝子関連ネットワークを信頼性高く推論できること。
• 複雑または計算コストの高いエントロピー推定手順の代替として、完全に解析的で縮小に基づく代替手法を提供すること。

提案手法

• 高次元の最尤推定量と低次元のターゲット推定量を組み合わせることで分散を低減する、ジェイムズ＝スタイン型の縮小推定量を提案する。
• 実験的分散、共分散、バイアスに基づくデータ駆動型の縮小強度λ^⋆を、閉形式式（式10）により計算する。
• 多項分布のセル頻度推定に縮小フレームワークを適用し、その縮小された頻度をシャノンエントロピー式（式1）に直接代入する。
• 高次元設定におけるスパースなセル頻度を正則化するために、一様事前分布（ラプラーススムージング）に基づくターゲット推定量を採用する。
• 結合分布と周辺分布のエントロピー推定量を用いることで、相互情報量推定への縮小原理の適応を図る。
• Rパッケージ「entropy」をCRANに公開し、実世界のゲノムデータへの実用的応用を可能にする。

実験結果

リサーチクエスチョン

• RQ1 ジェイムズ＝スタイン縮小アプローチは、高次元で小標本の状況において、エントロピー推定の正確性を著しく向上させることができるか？
• RQ2 提案手法の縮小推定量は、多様な標本抽出シナリオとデータ生成モデルにおいて、8つの既存エントロピー推定量と比較してどのように性能を発揮するか？
• RQ3 縮小法は、限られた遺伝子発現データから得られる遺伝子関連ネットワーク推定の信頼性をどの程度向上させるか？
• RQ4 シミュレーションや複雑な最適化を必要とせず、閉形式で効率的に計算可能な推定量か？

主な発見

• 提案されたジェイムズ＝スタイン縮小推定量は、幅広い標本抽出シナリオとデータ生成モデルにおいて、NSB や Chao-Shen を含む8つのベンチマーク推定量を一貫して上回る性能を発揮する。
• 従来の最尤推定量が真のエントロピーを著しく低減してしまう深刻な標本不足状況においても、本手法は優れた性能を発揮する。
• 縮小推定量はエントロピー推定だけでなくセル頻度推定も提供するため、シャノンエントロピー式への直接代入が可能となり、精度が向上する。
• 本手法は計算的に効率的で、完全に解析的であるため、他の推定量で一般的な反復的またはシミュレーションベースの手順を回避できる。
• E. coli の遺伝子発現データへの応用において、本手法は頑健でエントロピーに基づく遺伝子関連ネットワークを的確に同定した。実用的有用性が実証された。
• Rパッケージ「entropy」は本推定量を実装しており、公開されており、再現性のある研究と広範な採用を促進する。