[论文解读] Randomly coupled differential equations with correlations

László Erdős, Torben Krüger+1 more|arXiv (Cornell University)|Aug 14, 2019

Quantum many-body systems参考文献 14被引用 4

一句话总结

本文分析了具有随机耦合、相关系数的大规模线性微分方程组的长期行为。利用关于随机矩阵及其共轭的解析函数的渐近精确迹公式，本文严格推导并修正了具有非对称连接性的神经网络模型中的时间衰减率，将先前仅限于独立系数的结果推广至更一般的相关结构。

ABSTRACT

We consider the long time asymptotic behavior of a large system of $N$ linear differential equations with random coefficients. We allow for general correlation structures c among the coefficients, thus we substantially generalize our previous work [14] that was restricted to the independent case. In particular, we analyze a recent model in the theory of neural networks [26] that specifically focused on the effect of the distributional asymmetry in the random connectivity matrix $X$. We rigorously prove and slightly correct the explicit formula from [27] on the time decay as a function of the asymmetry parameter. Our main tool is an asymptotically precise formula for the normalized trace of $f(X) g(X^*)$, in the large $N$ limit, where $f$ and $g$ are analytic functions.

研究动机与目标

• 将先前关于不相关随机系数的结果推广至大规模线性微分方程组中的一般相关结构。
• 严格分析近期理论工作中所研究的具有非对称连接矩阵的神经网络模型中的时间衰减行为。
• 通过从第一性原理出发的迹渐近分析，修正并验证[27]中提出的关于衰减率作为非对称性函数的显式公式。
• 在大N极限下，为相关随机矩阵ensemble的f(X)g(X*)的归一化迹建立一个通用的渐近公式。

提出的方法

• 推导出一般相关结构的大随机矩阵X的f(X)g(X*)的归一化迹的渐近精确公式。
• 应用复分析技术处理解析函数f和g，利用相关随机矩阵的谱性质。
• 利用大N极限近似系统的动力学行为，重点关注解随时间的衰减。
• 将先前工作[14]中仅考虑独立系数的情况推广至任意相关结构，扩展迹公式。
• 通过迹渐近分析，从第一性原理出发推导并验证[27]中提出的衰减率公式的正确性。

实验结果

研究问题

• RQ1 大规模线性微分方程组的解的时间衰减如何依赖于随机系数的相关结构？
• RQ2 在大N极限下，相关随机矩阵的f(X)g(X*)的归一化迹的精确渐近行为是什么？
• RQ3 连接矩阵的非对称性如何影响神经网络模型中的长期动力学？
• RQ4 能否通过随机矩阵理论严格推导并修正[27]中提出的显式衰减率公式？

主要发现

• 本文在大N极限下推导出f(X)g(X*)的归一化迹的渐近精确公式，适用于一般相关结构。
• 严格证明并轻微修正了[27]中的时间衰减率公式，表明衰减率明确依赖于连接矩阵的非对称性参数。
• 所推导的公式将先前局限于独立系数的结果推广至任意相关结构，具有更广泛适用性。
• 该方法可精确预测具有非对称随机连接性的神经网络模型中的长期行为，解决了早期启发式推导中的不一致问题。