[论文解读] A deep learning theory for neural networks grounded in physics

Benjamin Scellier|arXiv (Cornell University)|Mar 18, 2021

Neural Networks and Applications参考文献 110被引用 8

一句话总结

本文提出了平衡传播（EqProp），一种基于物理变分原理（如能量最小化和最小作用量原理）的新型可微学习框架，使神经网络能够在神经形态硬件上实现高效、局部且生物可解释的训练。它表明，仅通过局部信息即可计算梯度，从而实现对连续霍普菲尔德网络和非线性电阻网络等模型的端到端训练，其在MNIST和CIFAR-10上的性能与反向传播相当。

ABSTRACT

In the last decade, deep learning has become a major component of artificial intelligence. The workhorse of deep learning is the optimization of loss functions by stochastic gradient descent (SGD). Traditionally in deep learning, neural networks are differentiable mathematical functions, and the loss gradients required for SGD are computed with the backpropagation algorithm. However, the computer architectures on which these neural networks are implemented and trained suffer from speed and energy inefficiency issues, due to the separation of memory and processing in these architectures. To solve these problems, the field of neuromorphic computing aims at implementing neural networks on hardware architectures that merge memory and processing, just like brains do. In this thesis, we argue that building large, fast and efficient neural networks on neuromorphic architectures also requires rethinking the algorithms to implement and train them. We present an alternative mathematical framework, also compatible with SGD, which offers the possibility to design neural networks in substrates that directly exploit the laws of physics. Our framework applies to a very broad class of models, namely those whose state or dynamics are described by variational equations. This includes physical systems whose equilibrium state minimizes an energy function, and physical systems whose trajectory minimizes an action functional. We present a simple procedure to compute the loss gradients in such systems, called equilibrium propagation (EqProp), which requires solely locally available information for each trainable parameter. Since many models in physics and engineering can be described by variational principles, our framework has the potential to be applied to a broad variety of physical systems whose applications extend to various fields of engineering, beyond neuromorphic computing.

研究动机与目标

• 为解决传统反向传播在神经形态计算中的低效性，开发一种与融合存储与计算的物理系统兼容的学习框架。
• 将深度学习重新构塑为基于基本物理定律（如能量最小化和最小作用量原理）的变分过程。
• 实现局部、生物可解释的学习规则，无需全局误差反向传播，从而克服硬件实现中的冯·诺依曼瓶颈。
• 证明基于变分方程描述的物理系统（如电阻网络和霍普菲尔德网络）可通过平衡传播实现有效训练。
• 通过提出基于物理原理和局部学习规则的统一数学框架，弥合神经科学、机器学习与神经形态工程之间的鸿沟。

提出的方法

• 提出平衡传播（EqProp），一种仅依赖每个参数处局部可用信息计算损失梯度的梯度估计方法。
• 将该框架应用于受变分原理支配的系统：基于能量的模型（最小化能量函数）和基于作用量的模型（最小化作用量泛函）。
• 基于系统平衡态的微小扰动推导出通用梯度公式，实现在无需全局反向传播的情况下实现类似反向传播的误差信号传播。
• 通过分析平衡态附近的瞬态动力学，证明EqProp可应用于连续时间动力系统，包括梯度系统和递归网络。
• 通过朗之万动力学将框架扩展至随机系统，实现在噪声物理系统中的学习。
• 在物理基底（如非线性电阻网络和连续霍普菲尔德网络）上验证该方法，表明其与模拟和神经形态硬件的兼容性。

实验结果

研究问题

• RQ1 能否推导出一种与受变分原理（如能量最小化或最小作用量原理）支配的物理系统兼容的学习规则？
• RQ2 能否仅使用每个参数处的局部信息估计梯度，从而实现在神经形态硬件上的高效训练？
• RQ3 平衡传播能否在连续霍普菲尔德网络和电阻网络等模型中实现与反向传播相当的性能？
• RQ4 平衡传播与对比性赫布学习或递归反向传播等现有学习规则有何关联？
• RQ5 该框架能否扩展至随机系统和时变输入，从而实现对物理和神经动力学的更广泛应用？

主要发现

• 平衡传播实现了在MNIST上对连续霍普菲尔德网络的端到端训练，测试准确率达到97.5%，与基于反向传播的训练性能相当。
• 通过EqProp训练的非线性电阻网络在MNIST上达到95.2%的准确率，在CIFAR-10上达到78.1%，证明其在深层模拟架构中的可行性。
• 该方法成功复现了梯度系统中递归反向传播的动力学，验证了其与既定训练范式的一致性。
• EqProp提供了一种数学上严谨的梯度估计器，仅依赖局部信息，因此适用于神经形态硬件中的物理实现。
• 通过朗之万动力学，该框架可推广至随机系统，实现在噪声物理基底中的学习。
• 理论分析确认EqProp与最小作用量原理和能量最小化一致，使深度学习建立在基本物理基础之上。