[论文解读] Rediscovering the power of pairwise interactions

William Bialek, Rama Ranganathan|ArXiv.org|Dec 28, 2007

Neural dynamics and brain function参考文献 12被引用 50

一句话总结

本文建立了两种不同生物系统建模方法之间的数学等价性：一种是基于序列数据中成对相关性的蛋白质序列蒙特卡洛采样，另一种是基于尖峰相关性数据的神经网络活动最大熵建模。其关键贡献在于证明了在相关极限下，这两种方法均收敛至相同的底层概率分布，统一了它们的理论基础，并表明仅靠成对相互作用即可高保真地捕捉复杂生物系统的行为。

ABSTRACT

Two recent streams of work suggest that pairwise interactions may be sufficient to capture the complexity of biological systems ranging from protein structure to networks of neurons. In one approach, possible amino acid sequences in a family of proteins are generated by Monte Carlo annealing of a "Hamiltonian" that forces pairwise correlations among amino acid substitutions to be close to the observed correlations. In the other approach, the observed correlations among pairs of neurons are used to construct a maximum entropy model for the states of the network as a whole. We show that, in certain limits, these two approaches are mathematically equivalent, and we comment on open problems suggested by this framework

研究动机与目标

• 探究仅靠成对相互作用是否足以解释蛋白质和神经网络等多样化生物系统中的复杂行为。
• 解决两种截然不同的建模方法之间的表观差异：基于序列的蒙特卡洛采样与基于神经活动相关性的最大熵建模。
• 建立一个统一的理论框架，将蛋白质序列演化与神经网络相关性模式联系起来。
• 探讨这一等价性对理解生物系统复杂性与信息容量的启示。

提出的方法

• 利用统计力学，作者推导出一个最大熵概率分布，使其与生物系统中观测到的成对相关性相匹配。
• 应用最大熵原理，构建一个仅以经验测量的成对相关性为约束条件的模型。
• 本文证明，蛋白质序列生成中使用的蒙特卡洛退火过程在数学上等价于从由成对相关性推导出的最大熵分布中进行采样。
• 该等价性在系统规模较大且相关性较弱的极限下成立，此时高阶相互作用可忽略不计。
• 该框架允许直接从推断出的概率分布中采样，而无需显式构建模型。
• 该方法可生成与观测相关性一致的新功能蛋白质序列和合成神经活动模式。

实验结果

研究问题

• RQ1 仅靠成对相互作用是否足以捕捉蛋白质家族和神经网络等复杂生物系统的统计结构？
• RQ2 蛋白质演化中使用的蒙特卡洛序列生成方法是否等价于从神经相关性数据中推导出的最大熵模型？
• RQ3 成对模型在预测生物系统中更高阶相关性方面取得成功背后的理论基础是什么？
• RQ4 最大熵框架如何揭示生物系统的热力学与信息论特性？
• RQ5 真实生物系统的参数，如蛋白质序列或神经活动，是否处于临界点或特殊配置？

主要发现

• 蛋白质序列生成中使用的蒙特卡洛退火过程在数学上等价于从由成对相关性约束的最大熵分布中进行采样。
• 在系统规模N较大且相关性较弱的极限下，蛋白质序列与神经网络建模方法均收敛至相同的底层概率分布。
• 该框架解释了为何成对模型能够成功预测那些未显式约束的更高阶相关性。
• 最大熵模型允许计算系统熵，从而量化功能序列的数量或神经网络的信息容量。
• 该方法可生成与实验数据匹配的新功能蛋白质序列和合成神经活动模式。
• 该等价性暗示了一条普遍原理：生物系统可能比预期更简单，仅靠成对相互作用即可捕捉关键的功能复杂性。