[論文レビュー] Experimentally realized in situ backpropagation for deep learning in nanophotonic neural networks

Sunil Pai, Zhanghao Sun+12 more|arXiv (Cornell University)|May 17, 2022

Neural Networks and Reservoir Computing被引用数 10

ひとこと要約

本論文は、可逆的ベクトルから位相への変換アルゴリズムを用いて、リアルタイムでの位相および振幅制御を可能にすることで、ナノフォトニクス神経ネットワークにおける実験的実装されたイン・サイトバックプロパゲーションフレームワークを提示する。この手法は、微分可能でハードウェアに適合する位相更新則を用いて、フォトニックネットワークのエンド・ツー・エンド学習を達成し、概念実証のナノフォトニクス構成で高い精度でチップ上でのバックプロパゲーションが実現可能であることを示している。

ABSTRACT

Neural networks are widely deployed models across many scientific disciplines and commercial endeavors ranging from edge computing and sensing to large-scale signal processing in data centers. The most efficient and well-entrenched method to train such networks is backpropagation, or reverse-mode automatic differentiation. To counter an exponentially increasing energy budget in the artificial intelligence sector, there has been recent interest in analog implementations of neural networks, specifically nanophotonic neural networks for which no analog backpropagation demonstration exists. We design mass-manufacturable silicon photonic neural networks that alternately cascade our custom designed "photonic mesh" accelerator with digitally implemented nonlinearities. These reconfigurable photonic meshes program computationally intensive arbitrary matrix multiplication by setting physical voltages that tune the interference of optically encoded input data propagating through integrated Mach-Zehnder interferometer networks. Here, using our packaged photonic chip, we demonstrate in situ backpropagation for the first time to solve classification tasks and evaluate a new protocol to keep the entire gradient measurement and update of physical device voltages in the analog domain, improving on past theoretical proposals. Our method is made possible by introducing three changes to typical photonic meshes: (1) measurements at optical "grating tap" monitors, (2) bidirectional optical signal propagation automated by fiber switch, and (3) universal generation and readout of optical amplitude and phase. After training, our classification achieves accuracies similar to digital equivalents even in presence of systematic error. Our findings suggest a new training paradigm for photonics-accelerated artificial intelligence based entirely on a physical analog of the popular backpropagation technique.

研究の動機と目的

• 位相のみの光学素子の非微分可能性という課題を克服することで、ナノフォトニクスハードウェア内に直接バックプロパゲーション学習を実装すること。
• 複素ベクトル状態から制御可能な位相および振幅パラメータへの可逆的で微分可能な変換を構築し、リアルタイム最適化を可能にする。
• 統合フォトニクス回路に適合する位相更新則を用いて、フォトニックニューラルネットワークのイン・サイト学習を実験的に実現すること。
• 理論的フォトニックバックプロパゲーションと実装のギャップを埋めるために、ハードウェアで実現可能なアルゴリズムを提供すること。

提案手法

• Vec2Phase関数は、回転行列 T2(θm, ϕm) を用いた反復的回転によって、正規化された複素ベクトル x ∈ CN を位相および振幅パラメータ (ϕ, θ) にマッピングする。
• 各反復では、m番目および (m+1) 番目の成分においてベクトルを回転させるユニタリ変換が適用され、(m+1) 番目の成分をゼロにし、位相と振幅を更新する。
• 位相 ϕm は積 x1x2 の偏角から導出され、振幅 θm は 2arctan(|x1x2|) を用いて計算され、適切な正規化が保証される。
• 逆関数である Phase2Vec 関数は、位相および振幅パラメータから元のベクトルを再構成でき、勾配のバックプロパゲーションを変換層を介して可能にする。
• このアルゴリズムは微分可能かつ可逆的であり、位相更新プロセスを通じた勾配計算を可能にする。
• 変換をフォトニックネットワークの学習ループに埋め込むことで、エンド・ツー・エンドバックプロパゲーションが可能となり、チップ上実装に適している。

実験結果

リサーチクエスチョン

• RQ1 位相および振幅制御のみを用いて、外部再設定を要せず、ナノフォトニクスハードウェア内に直接バックプロパゲーションを実装できるか？
• RQ2 リアルタイム学習に適した、複素ベクトル状態から制御可能な光学パラメータへの微分可能で可逆的なマッピングをどのように構築できるか？
• RQ3 統合フォトニクス回路に適合する位相更新則を用いたフォトニックニューラルネットワークにおけるイン・サイト学習の実現可能性はいかがなものか？
• RQ4 提案されたアルゴリズムは、物理的フォトニックシステムにおける反復的最適化中に、精度および安定性を維持できるか？

主な発見

• Vec2Phase および Phase2Vec 関数は、複素ベクトル状態と制御可能な位相および振幅パラメータの間で可逆的で微分可能なマッピングを提供し、光学層を通じた勾配計算を可能にする。
• このアルゴリズムは、統合フォトニクス回路と互換性があり、ナノフォトニクスハードウェアで実現可能な位相シフトおよびビームスプリッタに依存している。
• 変換を学習ループに埋め込むことで、エンド・ツー・エンドバックプロパゲーションが可能となり、リアルタイムのパrameter更新が可能である。
• 変換は正規化と位相の一貫性を保証し、最適化中におけるニューラルネットワーク出力の整合性を維持する。
• 位相更新則を微分可能かつハードウェア実装可能にすることで、フォトニックディープラーニングにおける主要な障壁を克服し、イン・サイト学習を可能にする。
• 概念実証実装により、完全に微分可能で可逆的な位相変換を用いた、チップ上でのフォトニックニューラルネットワークの直接的学習の実現可能性が示された。