[论文解读] Ising models for networks of real neurons

Gašper Tkačik, Elad Schneidman+2 more|ArXiv.org|Nov 22, 2006

Neural dynamics and brain function被引用 102

一句话总结

该论文提出，基于最大熵推断的成对伊辛模型能够准确描述多达40个神经节细胞的集体放电活动，捕捉到观测到的成对相关性。尽管排除了高阶相互作用，该模型仍能再现高阶相关性，并揭示出更大的合成网络（120个神经元）在临界点附近运行，表现出自旋玻璃态等集体行为，以及通过集体构型实现的高信息容量。

ABSTRACT

Ising models with pairwise interactions are the least structured, or maximum-entropy, probability distributions that exactly reproduce measured pairwise correlations between spins. Here we use this equivalence to construct Ising models that describe the correlated spiking activity of populations of 40 neurons in the retina, and show that pairwise interactions account for observed higher-order correlations. By first finding a representative ensemble for observed networks we can create synthetic networks of 120 neurons, and find that with increasing size the networks operate closer to a critical point and start exhibiting collective behaviors reminiscent of spin glasses.

研究动机与目标

• 确定成对伊辛模型是否能准确描述大规模视网膜神经元群体的关联放电活动。
• 研究是否能在明确排除高阶相关性的模型中捕捉到神经数据中的高阶相关性。
• 探索由真实视网膜网络经验统计构建的大规模神经网络中涌现的集体行为。
• 检验此类网络是否如热力学特征（如比热峰值）所示，在临界点附近运行。
• 评估集体态在神经信息表征中的作用，特别是在大规模网络中的作用。

提出的方法

• 使用最大熵原理构建伊辛模型，使其匹配40个神经元视网膜记录中的经验平均放电率和成对相关性。
• 应用迭代学习算法（公式3）求解逆伊辛问题，通过蒙特卡洛方法估计的相关性来调整场强 $ h_i $ 和耦合常数 $ J_{ij} $。
• 通过从真实40个神经元组中观测到的 $ \langle\sigma_i\rangle $ 和 $ C_{ij} $ 的经验分布中抽样，构建合成120个神经元网络。
• 计算热力学量（如比热 $ C(T) $ 和熵亏值 $ I(N) $），以检测临界性和集体行为。
• 通过零温蒙特卡洛方法识别稳定集体态（吸引盆），并分析其频率分布。
• 使用齐普夫图分析大规模网络中稳定态频率的幂律分布，以指示信息容量。

实验结果

研究问题

• RQ1 成对伊辛模型是否能准确再现视网膜神经活动中的高阶相关性，而不仅限于成对统计？
• RQ2 由真实视网膜网络经验统计构建的合成神经网络在规模增大时是否表现出类似临界的特性？
• RQ3 大规模神经网络的信息容量是否主要由集体态而非单个放电模式主导？
• RQ4 耦合常数 $ J_{ij} $ 的分布与受挫三角形的关系如何反映这些网络中的自旋玻璃态行为？
• RQ5 网络的工作点是否对应于临界点，如比热峰值所示？

主要发现

• 具有成对相互作用的伊辛模型在40个神经元视网膜网络中准确重构了成对相关性，重构误差处于箱内与自助法误差带范围内。
• 该模型成功预测了三点相关性，表明仅通过成对相互作用即可产生高阶结构。
• 合成120个神经元网络在 $ T^* = 1.07 \pm 0.02 $ 处表现出比热的尖锐峰值，表明其在临界点附近运行。
• 熵亏值 $ I(N) $ 随 $ N^2 $ 增长，表明存在强烈的集体相关性，其中 $ S_0(120) = 17.8 \pm 0.2 $ 比特，$ S(120) = 10.7 \pm 0.2 $ 比特。
• 在 $ N=120 $ 时，系统支持数千种稳定集体态，其频率分布接近齐普夫分布，其熵为 $ 3.4 \pm 0.3 $ 比特，占总熵的三分之一。
• $ J_{ij} $ 的分布近似为高斯分布，均值 $ \overline{J} = -0.016 \pm 0.004 $，标准差 $ \sigma_J = 0.61 \pm 0.04 $，且53%的三角形处于受挫状态，表明存在自旋玻璃态行为。