[论文解读] Physical Deep Learning with Biologically Plausible Training Method

M. Nakajima, Katsuma Inoue+4 more|arXiv (Cornell University)|Apr 1, 2022

Neural Networks and Reservoir Computing被引用 4

一句话总结

本文提出了一种基于直接反馈对齐与随机投影的生物可塑性训练方法，用于物理深度神经网络，实现了无需反向传播的端到端训练。该方法在光电递归网络上得到验证，在基于FPGA的便携式系统上实现了加速计算，并取得了具有竞争力的性能。

ABSTRACT

The ever-growing demand for further advances in artificial intelligence motivated research on unconventional computation based on analog physical devices. While such computation devices mimic brain-inspired analog information processing, learning procedures still relies on methods optimized for digital processing such as backpropagation. Here, we present physical deep learning by extending a biologically plausible training algorithm called direct feedback alignment. As the proposed method is based on random projection with arbitrary nonlinear activation, we can train a physical neural network without knowledge about the physical system. In addition, we can emulate and accelerate the computation for this training on a simple and scalable physical system. We demonstrate the proof-of-concept using a hierarchically connected optoelectronic recurrent neural network called deep reservoir computer. By constructing an FPGA-assisted optoelectronic benchtop, we confirmed the potential for accelerated computation with competitive performance on benchmarks. Our results provide practical solutions for the training and acceleration of neuromorphic computation.

研究动机与目标

• 开发一种适用于物理神经网络的生物可塑性训练方法，避免使用反向传播。
• 实现在无需了解其内部动力学细节的情况下对物理系统进行训练。
• 通过随机投影和任意非线性函数，实现可扩展且高效的训练。
• 通过模拟简单、可扩展的物理系统中的训练过程，加速物理深度学习。
• 在真实的光电递归神经网络平台上演示并验证该方法。

提出的方法

• 该方法将直接反馈对齐（DFA）扩展至物理神经网络，利用随机投影近似误差信号。
• 它实现了无需反向传播的端到端训练，仅依赖于随机权重矩阵和非线性激活函数。
• 训练过程设计为独立于物理系统的内部结构，因此可适用于多种模拟器件。
• 该框架允许在可扩展的物理系统（如光电储备池计算机）上模拟训练过程。
• 采用FPGA辅助的光电便携式系统，实现并验证了该方法的硬件部署。
• 该方法支持分层连接结构，并利用系统的物理动力学实现计算。

实验结果

研究问题

• RQ1 能否将直接反馈对齐方法适配于物理深度神经网络的训练，而无需使用反向传播？
• RQ2 随机投影能否在内部动力学未知的物理系统中有效近似误差信号？
• RQ3 该训练方法能否在真实的光电硬件平台上实现并加速？
• RQ4 所提出的方法是否能在标准基准测试中，通过物理计算实现具有竞争力的性能？
• RQ5 该训练过程能否在可扩展的物理系统上高效模拟？

主要发现

• 所提出的方法成功实现了无需反向传播的物理深度神经网络训练，且符合生物可塑性学习规则。
• 该方法在基于FPGA的便携式系统上，利用光电递归神经网络在基准任务上取得了具有竞争力的性能。
• 训练过程具有可扩展性，且无需了解物理系统的内部动力学细节。
• 随机投影能够有效近似误差信号，支持物理系统中稳定且高效的训练。
• 该系统展示了加速计算能力，证实了采用生物可塑性训练的物理深度学习的可行性。
• 该方法实现了在简单、可扩展的物理平台上的训练过程模拟与硬件加速。