[論文レビュー] RecLight: A Recurrent Neural Network Accelerator with Integrated Silicon Photonics

Febin Sunny, Mahdi Nikdast+1 more|arXiv (Cornell University)|Aug 31, 2022

Neural Networks and Reservoir Computing被引用数 7

ひとこと要約

RecLight は、統合シリコンフォトニクスを活用して、GRU や LSTM を含む再帰的ニューラルネットワーク（RNN）の推論を高速化するフォトニクスハードウェアアクセラレータである。光による行列乗算と低遅延フォトニックインターコネクトを活用することで、最先端のものと比較して 37 倍低いビットあたりエネルギー消費量と 10% の高いスループットを達成し、リアルタイムのシーケンス処理ワークロードにおいて顕著な効率的優位性を示している。

ABSTRACT

Recurrent Neural Networks (RNNs) are used in applications that learn dependencies in data sequences, such as speech recognition, human activity recognition, and anomaly detection. In recent years, newer RNN variants, such as GRUs and LSTMs, have been used for implementing these applications. As many of these applications are employed in real-time scenarios, accelerating RNN/LSTM/GRU inference is crucial. In this paper, we propose a novel photonic hardware accelerator called RecLight for accelerating simple RNNs, GRUs, and LSTMs. Simulation results indicate that RecLight achieves 37x lower energy-per-bit and 10% better throughput compared to the state-of-the-art.

研究の動機と目的

• 音声認識や異常検出などのリアルタイムのシーケンス処理アプリケーションにおける、エネルギー効率の高い推論に対する急増する需要に対処すること。
• 再帰的ニューラルネットワーク（RNN）、GRU、LSTM の処理における電子アクセラレータのエネルギーと遅延のボトルネックを克服すること。
• RNN ワークロードと統合されたシリコンフォトニクスを活用した、高スループットかつ低消費電力なフォトニックアクセラレータアーキテクチャを設計すること。
• 光の並列処理と低損失伝送を活用することで、フォトニックコンピューティングが電子的同等品を上回ることを示すこと。
• シミュレーションを通じて提案されたアーキテクチャを検証し、エネルギー効率とスループットの測定可能な向上を示すこと。

提案手法

• 再構成可能なフォトニックメッシュを用いて、シリコンフォトニクスの高速性とエネルギー効率を活かして並列で行列乗算を実行する。
• 学習可能な重みを実装するために、可変式光位相シフターとしてのマハランビス・ゼンダ干渉計（MZI）を採用する。
• 処理素子間の通信遅延を低減するため、フォトニックインターコネクトを統合し、電子的ボトルネックを最小限に抑える。
• ハイブリッドな電子-フォトニック制御レイヤーにより、光学部品の設定と RNN の時間ステップにわたる計算の調整を管理する。
• 光学パスの動的再構成により、単純な RNN から GRU や LSTM まで、さまざまな RNN 変種をサポートする。
• 標準的な RNN ベンチマークを用いてシミュレーションを実施し、実際のワークロード下でのエネルギー効率とスループットを評価する。

実験結果

リサーチクエスチョン

• RQ1 統合シリコンフォトニクスは、電子アクセラレータと比較して、RNN 推論におけるビットあたりエネルギー消費量を顕著に低減可能か？
• RQ2 フォトニック RNN アクセラレータのスループットは、最先端の電子実装と比較してどの程度か？
• RQ3 光の並列処理と低損失インターコネクトは、再帰的ニューラルネットワークワークロードの性能向上にどの程度寄与可能か？
• RQ4 RNN における電子的行列乗算をフォトニック同等品に置き換えた場合、エネルギーとパフォーマンスのトレードオフはどの程度達成可能か？
• RQ5 提案されたフォトニックアーキテクチャは、シーケンスモデリングタスクにおいて、高い正確性を維持しながらも、優れたエネルギー効率を達成可能か？

主な発見

• RecLight は、最先端の電子的 RNN アクセラレータと比較して、ビットあたり 37 倍低いエネルギー消費量を達成し、エネルギー効率の飛躍的向上を示している。
• アクセラレータは、既存の最高性能を持つ電子ソリューションと比較して 10% の高いスループットを提供しており、計算スループットの向上を示している。
• フォトニックメッシュアーキテクチャにより、光信号の高帯域幅を活かして最小限の遅延で並列行列乗算が可能である。
• 可変式 MZI を用いた重み実装により、GRU や LSTM を含むさまざまな RNN 変種への再構成性が可能である。
• シミュレーション結果から、フォトニック設計が標準的な RNN ワークロードと互換性を保ちつつ、顕著なエネルギー消費の低減を実現することが確認された。
• 結果から、フォトニック加速はリアルタイムのシーケンス処理において、電子的加速の代替手段として実現可能かつ優れた選択肢であることが示された。