[论文解读] Holomorphic Equilibrium Propagation Computes Exact Gradients Through Finite Size Oscillations

Axel Laborieux, Friedemann Zenke|arXiv (Cornell University)|Sep 1, 2022

Neural dynamics and brain function被引用 6

一句话总结

该论文提出了全纯平衡传播（hEP），一种平衡传播的新扩展，通过利用全纯神经网络中的绝热振荡，使用有限振幅的教学信号计算精确梯度。它证明了梯度可作为连续时间振荡的首阶傅里叶系数提取，从而无需单独的训练阶段，实现在深层网络中鲁棒、抗噪声的训练，且在 ImageNet $32\times32$ 上性能与反向传播相当。

ABSTRACT

Equilibrium propagation (EP) is an alternative to backpropagation (BP) that allows the training of deep neural networks with local learning rules. It thus provides a compelling framework for training neuromorphic systems and understanding learning in neurobiology. However, EP requires infinitesimal teaching signals, thereby limiting its applicability in noisy physical systems. Moreover, the algorithm requires separate temporal phases and has not been applied to large-scale problems. Here we address these issues by extending EP to holomorphic networks. We show analytically that this extension naturally leads to exact gradients even for finite-amplitude teaching signals. Importantly, the gradient can be computed as the first Fourier coefficient from finite neuronal activity oscillations in continuous time without requiring separate phases. Further, we demonstrate in numerical simulations that our approach permits robust estimation of gradients in the presence of noise and that deeper models benefit from the finite teaching signals. Finally, we establish the first benchmark for EP on the ImageNet 32x32 dataset and show that it matches the performance of an equivalent network trained with BP. Our work provides analytical insights that enable scaling EP to large-scale problems and establishes a formal framework for how oscillations could support learning in biological and neuromorphic systems.

研究动机与目标

• 为克服经典平衡传播（EP）的局限性，后者需要无穷小的教学信号和分离的时间阶段，使其在噪声环境下的神经形态系统和大规模学习中不切实际。
• 开发一种生物可解释的、局部的梯度学习规则，无需依赖趋近于零的微小扰动或显式反向传播，即可计算精确梯度。
• 建立一个正式框架，其中连续时间神经振荡通过傅里叶分析编码精确梯度，实现在线学习。
• 证明 hEP 在大规模视觉基准（如 CIFAR-10/100 和 ImageNet $32\times32$）上可达到与反向传播相当的性能。
• 通过使用有限振幅振荡，实现在硬件噪声和更深架构下的鲁棒训练。

提出的方法

• 通过将实值动力学嵌入复平面，将平衡传播扩展至全纯网络，实现神经动力学的解析延拓。
• 推导出损失关于参数的梯度由全纯网络中绝热演化期间复平面上振荡活动的首阶傅里叶系数给出。
• 使用时变复值教学信号诱导网络中稳定、有限振幅的振荡，避免了对自由相和扰动相的分离需求。
• 采用突触滤波操作提取神经活动的首阶傅里叶谐波，直接获得精确的梯度估计。
• 在浅层和深层卷积网络中应用该方法，采用标准优化协议，除复值权重和激活函数外无需架构修改。
• 采用具有极点的复值 ReLU 和类似 Sigmoid 的激活函数，通过权重初始化和信号振幅控制谨慎管理极点。

实验结果

研究问题

• RQ1 能否在有限振幅教学信号下实现平衡传播的精确梯度计算，而非仅在无穷小扰动的极限下？
• RQ2 全纯网络中的连续时间振荡能否通过傅里叶分析编码精确梯度，从而消除对分离训练阶段的需求？
• RQ3 所提出的全纯平衡传播（hEP）方法在大规模视觉任务（如 ImageNet $32\times32$）上能否实现与反向传播相当的性能？
• RQ4 与经典 EP 相比，hEP 在物理或神经形态实现中的噪声环境下表现如何？
• RQ5 hEP 能否应用于更深的网络？在这些设置中是否表现出更好的泛化能力或稳定性？

主要发现

• hEP 通过提取全纯网络中绝热振荡的首阶傅里叶系数，对有限振幅教学信号实现了精确梯度计算，该结论已通过分析证明。
• 该方法实现了无需分离自由相和扰动相的在线梯度估计，仅依赖连续振荡动力学。
• 在噪声环境中，hEP 表现优于经典 EP，尤其在深层网络中，因其对有限信号振幅具有更强鲁棒性。
• 在 ImageNet $32\times32$ 基准上，hEP 达到了与反向传播训练模型相当的测试准确率，确立了 EP 在此领域的首个此类基准。
• 数值模拟证实，即使存在底层噪声，hEP 仍能保持高梯度精度，且通过合理初始化和信号振幅控制可实现稳定训练。
• 该方法表明，复激活函数中的极点在实际中可被有效管理，当 $|\beta|$、权重初始化和激活函数合理选择时，可在零附近找到稳定训练区域。