[论文解读] Robust motifs of threshold-linear networks

Carina Curto, Christopher Langdon+1 more|arXiv (Cornell University)|Feb 27, 2019

Neural dynamics and brain function参考文献 12被引用 6

一句话总结

本文提出了抑制主导型阈值线性网络（TLNs）中鲁棒与灵活基序的图解表征，表明鲁棒基序——其固定点结构在突触权重变化下保持不变——可划分为两类具有简单前馈架构的无限家族（DAG1 和 DAG2），而灵活基序则允许多种动态模式。其核心贡献是通过拓扑结构对所有鲁棒基序进行完整分类，从而实现即使在连接强度变化下，也能设计出具有可预测、稳定动态特性的网络。

ABSTRACT

To any inhibition-dominated threshold-linear network (TLN) we can associate a directed graph that captures the pattern of strong and weak inhibition between neurons. Robust motifs are graphs for which the structure of fixed points in the network is independent of the choice of connectivity matrix $W$, and whose dynamics are thus greatly constrained. This makes them ideal building blocks for constructing larger networks whose behaviors are robust to changes in connection strengths. In contrast, flexible motifs correspond to networks with multiple dynamic regimes. In this work, we give a purely graphical characterization of both flexible and robust motifs of any size. We find that all but a few robust motifs fall into two infinite families of graphs with simple feedforward architectures.

研究动机与目标

• 理解网络架构如何制约阈值线性网络（TLNs）中的动态行为，特别是抑制主导型系统中的行为。
• 根据其固定点支撑集在所有相容权重矩阵 W 下是否保持不变，对基序（子图）进行分类。
• 识别哪些图结构可产生鲁棒动态——即固定点构型独立于突触权重变化的动态——与可实现多种动态模式的灵活基序之间的区别。
• 提供所有鲁棒基序的完整图解表征，包括证明其仅属于两类具有前馈架构的无限家族。

提出的方法

• 从连通性矩阵 W 定义有向图 GW，若 Wij > -1，则存在边 j→i，以捕捉相对抑制强度。
• 引入固定点支撑集 FP(W) 的概念，表示在平衡状态下发放率为正的神经元子集。
• 将图 G 分类为：不变允许（始终存在全支撑固定点）、不变禁止（从不出现）或灵活（取决于 W）。
• 利用有向无环图（DAG）的源-目标分解，通过迭代移除源节点，证明 FP(W) 仅依赖于目标子图 τ。
• 证明鲁棒基序要么是不变允许（单个神经元、2-团、大小为 2 的独立集、3-环），要么属于两类无限家族：DAG1（目标为单个神经元）和 DAG2（目标为 2-团）。
• 利用拓扑排序与源节点的迭代移除，将全网络动态简化为对目标子图 τ 的动态分析，从而建立 FP(W) 的不变性。

实验结果

研究问题

• RQ1 在阈值线性网络中，哪些图结构可产生对突触权重变化具有鲁棒性的固定点动态？
• RQ2 是否可以仅通过图的拓扑结构对所有鲁棒基序进行分类，而无需参考具体权重值？
• RQ3 哪些结构特征可区分灵活基序（具有多种动态模式）与鲁棒基序（具有不变动态）？
• RQ4 所有鲁棒基序是否都属于有限个例外情况，或属于具有特定架构模式的无限家族？
• RQ5 源-目标分解在确定不同权重矩阵下固定点支撑集不变性方面起到何种作用？

主要发现

• 所有鲁棒基序要么是不变允许（单个神经元、2-团、大小为 2 的独立集、3-环），要么属于两类无限家族：具有前馈架构的 DAG1 和 DAG2。
• 当且仅当图 G 是鲁棒时，即其动态独立于突触权重值，其固定点支撑集 FP(W) 才对所有与图 G 相容的权重矩阵 W 保持不变。
• 对于任意鲁棒基序，全网络动态完全由目标子图 τ 决定，且对所有满足 GW = G 的 W，均有 FP(W) = FP(Wτ)。
• DAG1 中的图具有单个目标节点 t，且对所有相容 W，均有 FP(W) = {t}；DAG2 中的图具有 2-团目标，且对所有相容 W，均有 FP(W) = {tu}。
• 鲁棒基序的分类是完整的：每个鲁棒基序要么是上述四类例外情况之一，要么属于 DAG1 或 DAG2。
• 该证明依赖于通过拓扑排序迭代移除源节点，表明动态可简化为对目标子图的分析，而该目标子图本身也必须是鲁棒的且不包含源节点。