[論文レビュー] Statistical properties of interaction parameter estimates in direct coupling analysis

Yingying Xu, Erik Aurell+2 more|arXiv (Cornell University)|Apr 5, 2017

Theoretical and Computational Physics被引用数 3

ひとこと要約

本稿は、ランダムなデータの仮定の下で、直接結合解析（DCA）における相互作用パラメータ推定の統計的性質を調査し、正則化最小二乗法（RLS）と疑似尤度最大化（plmDCA）に注目する。解析的に、ガウス分布に従うデータでは推定された結合パラメータもガウス分布に従うことが示され、ボーレル（Boolean）データでは標準化後に普遍的なスケーリング関数が得られることを示す。これにより、小さなシミュレーションから極端な結合パラメータの分布を推定できる。

ABSTRACT

We consider the statistical properties of interaction parameter estimates obtained by the direct coupling analysis (DCA) approach to learning interactions from large data sets. Assuming that the data are generated from a random background distribution, we determine the distribution of inferred interactions. Two inference methods are considered: the L2 regularized naive mean-field inference procedure (regularized least squares, RLS), and the pseudo-likelihood maximization (plmDCA). For RLS we also study a model where the data matrix elements are real numbers, identically and independently generated from a Gaussian distribution; in this setting we analytically find that the distribution of the inferred interactions is Gaussian. For data of Boolean type, more realistic in practice, the inferred interactions do not generally follow a Gaussian. However, extensive numerical simulations indicate that their distribution can be characterized by a single function determined by a few system parameters after normalization by the standard deviation. This property holds for both RLS and plmDCA and may be exploitable for inferring the distribution of extremely large interactions from simulations for smaller system sizes.

研究の動機と目的

• ランダムなデータの仮定の下で、DCAによって推定された相互作用パラメータの背景分布を体系的に研究すること。
• 真の値が入手できない状況において、DCA予測の統計的有意性を評価する課題に対処すること。
• 計算コストの高い手法（例：plmDCA）においても、小さな系でのシミュレーションから極めて大きな結合パラメータの分布をスケーラブルに推定する手法を開発すること。
• 正則化最小二乗法（RLS）と疑似尤度最大化（plmDCA）という2つの主要なDCA推定手法の統計的挙動を比較すること。
• 異なるシステムパラメータにわたって結合分布を特徴付ける普遍的なスケーリング関数の可能性を検討すること。

提案手法

• L2正則化を用いた正則化最小二乗法（RLS）を用いて、平均場近似下での逆共分散行列をモデル化し、データから相互作用パラメータを推定する。
• i.i.d. ガウス分布に従うデータ要素のケースを解析的に分析し、推定された結合パラメータがガウス分布に従うことを導出する。
• さまざまなシステムパラメータ（アスペクト比α、正則化パラメータλ、カラムバイアスfi）を変化させた、ボーレル分布データ（±1）を用いた広範な数値シミュレーションを実施し、結合パラメータの分布を調査する。
• 標準偏差による正規化を適用することで、異なるシステムサイズにおける結合パラメータ分布を1つの普遍的スケーリング関数に統合する。
• 解析的表現が困難な非線形推定手法であるplmDCAに対しても、数値的結果から同様のスケーリング行動が得られることを示す。
• ランクプロットと対数ヒストограмを用いて、両手法における尾部挙動を可視化し、スケーリング性を検証する。

実験結果

リサーチクエスチョン

• RQ1 データがi.i.d. ガウス分布に従う場合、推定された相互作用パラメータの解析的分布は何か？
• RQ2 ボーレル分布に従うデータにおいて、DCAによる推定結合パラメータの統計的性質はどのように変化するか？また、それらは普遍的に特徴付け可能か？
• RQ3 RLSおよびplmDCAの両方において、異なるシステムサイズやパラメータにわたって、1つのスケーリング関数が結合分布を記述可能か？
• RQ4 観察されたスケーリング行動を用いて、小さな系でのシミュレーションから極めて大きな結合パラメータの分布をどの程度まで推定できるか？
• RQ5 推定手法の選択（RLS 対 plmDCA）が、ランダムなデータ下での推定結合パラメータの統計的性質に与える影響はどの程度か？

主な発見

• データ行列の要素がi.i.d. ガウス分布に従う場合、RLSによる推定された相互作用パラメータは解析的に導出可能なガウス分布に従う。
• ボーレル分布に従うデータにおいて、異なるシステムサイズにおける推定結合パラメータの分布は、標準偏差による正規化を施すことで、1つの普遍的スケーリング関数に統合される。
• このスケーリング性は、RLSおよびplmDCAの両方で成立し、推定手法の複雑さに依存しない堅牢な統計的挙動を示している。
• 正規化された結合パラメータ分布の尾部は、概ねガウス分布と同様に減衰するため、ランクプロットにおける外挿された尾部が、極めてまれな予測の上界として用いられる可能性がある。
• スケーリング関数は、アスペクト比α、正則化パラメータλ、カラムバイアスfiのわずかなシステムパラメータにのみ依存するため、効率的な背景モデル構築が可能である。
• 観察されたスケーリング行動により、計算コストの高い手法（例：plmDCA）においても、小さな系でのシミュレーションから極端な結合パラメータの分布を推定できる。