[論文レビュー] When are correlations strong?

Feraz Azhar, William Bialek|arXiv (Cornell University)|Dec 29, 2010

Neural dynamics and brain function参考文献 24被引用数 7

ひとこと要約

本稿では、スピン模型のエントロピーを相互相関係数の4次まで摂動展開することで、個々の相関が弱くても、大規模なネットワークに広がっている場合に顕著な集団的効果を生じることを示している。主な発見は、最大エントロピー模型が成功する理由は相関が強いからではなく、一次近似を超えて捉えられる集団的影響—それが非自明なネットワーク行動を駆動しているからである。

ABSTRACT

The inverse problem of statistical mechanics involves finding the minimal Hamiltonian that is consistent with some observed set of correlation functions. This problem has received renewed interest in the analysis of biological networks; in particular, several such networks have been described successfully by maximum entropy models consistent with pairwise correlations. These correlations are usually weak in an absolute sense (e.g., correlation coefficients ~ 0.1 or less), and this is sometimes taken as evidence against the existence of interesting collective behavior in the network. If correlations are weak, it should be possible to capture their effects in perturbation theory, so we develop an expansion for the entropy of Ising systems in powers of the correlations, carrying this out to fourth order. We then consider recent work on networks of neurons [Schneidman et al., Nature 440, 1007 (2006); Tkacik et al., arXiv:0912.5409 [q-bio.NC] (2009)], and show that even though all pairwise correlations are weak, the fact that these correlations are widespread means that their impact on the network as a whole is not captured in the leading orders of perturbation theory. More positively, this means that recent successes of maximum entropy approaches are not simply the result of correlations being weak.

研究の動機と目的

• 最大エントロピー模型が、個々の2次相関が弱くても生物ネットワークをうまく記述できるという見かけのパラドックスを解明すること。
• 相関係数のべき級数として、イジング模型におけるエントロピーの体系的摂動展開を構築し、一次近似を超えること。
• 広範に広がる弱い相関が、特に神経ネットワークやタンパク質相互作用ネットワークの文脈で、グローバルなネットワーク行動に与える寄与を定量化すること。
• 最大エントロピー模型の成功が、単に弱い相関の結果であるのではなく、多数の弱い相関が集団的に生じる非摂動的効果を反映していることを明確にすること。

提案手法

• 相関係数の4次まで、イジング系におけるエントロピーの摂動展開を、コマ状展開技術を用いて導出する。
• 相関関数の級数としてエントロピーを表現し、2次、3次、4次相関を含む明示的な項を含む。
• ゼロ磁場イジング模型を基準状態とし、統計力学的平均を用いて非ゼロ相関に起因する補正を計算する。
• 高次項に現れる異なるトポロジー的寄与を特定：対のインデックス（例：i=j, k=l）と三重インデックス（例：i=j=k）を含み、適切な対称性因子を考慮する。
• すべての結果を相関係数 $ C_{ij} $、平均活性度 $ \langle \sigma_i \rangle^{(0)} $、およびルート平均二乗揺らぎ $ (\delta\sigma_i)^{(0)}_{\text{rms}} $ で表現する。
• 3次および4次エントロピー補正の明示的公式を導出し、$ C_{ij}^3 $、$ C_{ij}^4 $、および連結4点相関を含む項を含む。

実験結果

リサーチクエスチョン

• RQ1 個々の相関が弱くても、2次相関に基づく最大エントロピー模型が、複雑な生物ネットワークをうまく記述できるのはなぜか？
• RQ2 弱い相関の効果は、エントロピー展開における摂動論でどの程度まで捉えられるか？
• RQ3 集団的行動を生成する要因として、強いつながりではなく、広範に広がった相関が果たす役割は何か？
• RQ4 2次以降の高次相関寄与（2次を超える項）は、エントロピーおよびネットワークのグローバル構造にどのように影響するか？
• RQ5 最大エントロピー模型の成功は、多数の弱い相関の集団的影響から生じる非摂動的効果によって説明できるか？

主な発見

• 3次エントロピー補正には、2つの異なる寄与がある：三角形を形成する3つの2次相関（$ C_{ij}C_{jl}C_{li} $）と、同じペアを含む3次相関（$ C_{ij}^3 $）で、平均活性度に依存する項。
• 4次エントロピー補正には、$ C_{ij}^4 $、$ C_{ij}^2 C_{in}^2 $、および$ C_{ij}C_{jn}C_{nl}C_{li} $ などの連結4点相関が含まれるが、これはインデックスが閉ループを形成する場合にのみ非ゼロとなる。
• $ C_{ij}^3 $ および $ C_{ij}^4 $ 項に平均活性度および揺らぎ要因が含まれるため、相関が弱くても非ガウス的・非摂動的効果が存在することが示唆される。
• 個々に小さいが多数の弱い相関の集団的影響は、一次近似を超える顕著なエントロピー補正を生じさせ、最大エントロピー模型の成功を説明する。
• 展開から、相関が多数にわたって弱い場合、摂動論は相関の全効果を捉えられず、高次項が正確なモデル化に不可欠であることが明らかになった。
• 結果は、2次相関に基づく最大エントロピー模型の成功が、強い相関のおかげではなく、弱い相関のネットワーク全体への分布が生じる非自明な集団的行動—低次近似では捉えきれないもの—に起因していることを示している。