[论文解读] Programming Nonlinear Propagation for Efficient Optical Learning Machines

İlker Oğuz, Jih-Liang Hsieh+6 more|arXiv (Cornell University)|Aug 9, 2022

Optical Network Technologies被引用 4

一句话总结

本文提出一种光学神经网络，利用多模光纤中的波前整形超短脉冲，诱导受控的非线性光学传播，实现高效计算。通过使用代理模型优化输入波前，与等效的数字网络相比，该方法将数字参数减少97%，数字运算减少99%，实现了高效、部分或完全光学化的学习，且精度具有竞争力。

ABSTRACT

The ever-increasing demand for processing data with larger machine learning models requires more efficient hardware solutions due to limitations such as power dissipation and scalability. Optics is a promising contender for providing lower power computation since light propagation through a non-absorbing medium is a lossless operation. However, to carry out useful and efficient computations with light, generating and controlling nonlinearity optically is a necessity that is still elusive. Multimode fibers (MMF) have been shown that they can provide nonlinear effects with microwatts of average power while maintaining parallelism and low loss. In this work, we propose an optical neural network architecture, which performs nonlinear optical computation by controlling the propagation of ultrashort pulses in MMF by wavefront shaping. With a surrogate model, optimal sets of parameters are found to program this optical computer for different tasks with minimal utilization of an electronic computer. We show a remarkable decrease of 97% in the number of model parameters, which leads to an overall 99% digital operation reduction compared to an equivalently performing digital neural network. We further demonstrate that a fully optical implementation can also be performed with competitive accuracies.

研究动机与目标

• 为应对大规模机器学习模型日益增长的能效硬件需求。
• 克服在低功率下生成和控制光学非线性的挑战，以实现实际计算。
• 通过利用多模光纤固有的非线性特性与超短脉冲，实现高效光学推理。
• 通过光学非线性处理，最大限度减少神经网络对数字计算的依赖。
• 通过完全或部分光学实现，展示光学学习机在精度上的竞争力。

提出的方法

• 该方法利用波前整形控制超短光脉冲在多模光纤中的传播，以诱导定制化的非线性光学响应。
• 训练一个代理模型，以预测实现特定学习任务所需理想非线性变换的波前参数。
• 代理模型通过学习目标输出与所需输入波前之间的映射关系，减少了对迭代数字优化的依赖。
• 光学系统通过光纤中的自相位调制和交叉相位调制实现非线性激活函数，由低功率（微瓦级）脉冲驱动。
• 通过代理模型进行端到端反向传播训练，最大限度减少数字计算。
• 该系统支持混合光学-数字推理以及完全光学推理，性能具有竞争力。

实验结果

研究问题

• RQ1 能否对多模光纤中的非线性光学传播进行编程，以实现高效、任务特定的计算？
• RQ2 波前整形在多大程度上可控制多模光纤的非线性响应，以支持机器学习任务？
• RQ3 通过将非线性运算转移到光学域，神经网络中可减少多少数字计算？
• RQ4 完全光学实现能否与数字等效模型相比达到具有竞争力的精度？
• RQ5 光学复杂度与数字运算减少之间的权衡如何？

主要发现

• 与等效的数字神经网络相比，该方法将模型参数数量减少了97%。
• 由于光学非线性计算占主导地位，整体数字运算量减少了99%。
• 光学系统在基准任务上实现了具有竞争力的分类精度，证明了光学学习的可行性。
• 已实现完全光学的实现，性能与数字网络相当，验证了全光学推理的潜力。
• 代理模型实现了波前的高效优化，减少了对迭代数字训练的依赖。
• 在微瓦级平均功率下，利用多模光纤中的非线性效应，实现了低能耗运行。