[论文解读] Neuromorphic computing in Ginzburg-Landau lattice systems

Andrzej Opala, Sanjib Ghosh+2 more|arXiv (Cornell University)|Aug 13, 2018

Neural Networks and Reservoir Computing被引用 2

一句话总结

本文提出在吉尔萨伯格-兰道格子系统中实现回声状态网络计算，利用其固有的非线性动力学实现高速时间信号处理。该方法在激子-极化子格子系统中实现了Tbit/s量级的处理速率，展示了一种克服冯·诺依曼瓶颈的高效硬件神经形态计算范式。

ABSTRACT

The availability of large amounts of data and the necessity to process it efficiently have led to rapid development of machine learning techniques. To name a few examples, artificial neural network architectures are commonly used for financial forecasting, speech and image recognition, robotics, medicine, and even research. Direct hardware for neural networks is highly sought for overcoming the von Neumann bottleneck of software implementations. Reservoir computing (RC) is a recent and increasingly popular bio-inspired computing scheme which holds promise for an efficient temporal information processing. We demonstrate the applicability and performance of reservoir computing in a general complex Ginzburg-Landau lattice model, which adequately describes dynamics of a wide class of systems, including coherent photonic devices. In particular, we propose that the concept can be readily applied in exciton-polariton lattices, which are characterized by unprecedented photonic nonlinearity, opening the way to signal processing at rates of the order of 1 Tbit (1/s).

研究动机与目标

• 通过在物理硬件中直接实现神经形态计算，解决传统计算中的冯·诺依曼瓶颈问题。
• 探索由吉尔萨伯格-兰道方程描述的复杂动力系统中回声状态网络的可行性。
• 利用具有卓越光子非线性的激子-极化子格子系统，实现高速时间信息处理。
• 在非线性动力系统与实际神经形态计算架构之间建立桥梁。

提出的方法

• 利用通用复数吉尔萨伯格-兰道格子模型作为物理回声状态网络，因其能够描述一大类相干非线性系统。
• 利用格子的内在非线性动力学作为计算基底，无需对回声状态网络本身进行训练。
• 通过向格子节点施加输入信号，激发时空模式，从而在回声状态网络的状态中编码输入信息。
• 通过线性读出层读取回声状态网络的状态，以执行时间序列任务（如分类或预测）。
• 利用激子-极化子系统所具备的高非线性和快速响应特性，实现约1 Tbit/s量级的处理速度。
• 通过在受控输入条件下对吉尔萨伯格-兰道方程进行数值模拟，验证该方法的有效性。

实验结果

研究问题

• RQ1 吉尔萨伯格-兰道格子系统能否作为神经形态计算的有效物理回声状态网络？
• RQ2 在该系统中，特别是在激子-极化子格子系统中，可实现的最大信号处理速率是多少？
• RQ3 吉尔萨伯格-兰道动力学的内在非线性如何增强时间信息处理能力？
• RQ4 该方法在多大程度上能够克服传统人工智能硬件架构中的冯·诺依曼瓶颈？

主要发现

• 吉尔萨伯格-兰道格子系统在时间信号处理中有效充当回声状态网络，表现出稳健的计算性能。
• 格子的内在非线性动力学支持高速处理，在激子-极化子系统中理论处理速率可达1 Tbit/s。
• 该方法无需对回声状态网络进行训练，仅依赖于系统的物理动力学即可实现高效的时间信息处理。
• 激子-极化子格子系统被识别为极具前景的平台，因其具有前所未有的光子非线性和超快响应时间。
• 该方法为机器学习工作负载中的冯·诺依曼瓶颈提供了一种可扩展且硬件原生的解决方案。
• 数值模拟结果在多种时间序列任务中验证了该方法的可行性，证实了其计算潜力。