[論文レビュー] RF-Photonic Deep Learning Processor with Shannon-Limited Data Movement

Ronald Davis, Zaijun Chen+2 more|arXiv (Cornell University)|Jul 8, 2022

Neural Networks and Reservoir Computing被引用数 6

ひとこと要約

本論文は、光の周波数ドメインにデータを符号化することで、1回の写像で行列-ベクトル乗算を実行する光子ディープラーニングプロセッサ、MAFT-ONNを提案する。光電気的乗算を用いて、1つの電気光変調器を介して非線形活性化を実装する。このプロセッサは光速制限の遅延と帯域制限のスループットを達成し、音声やRF信号などの時間的波形のリアルタイム推論を、商業的部品を用いたスケーラブルで低複雑度のハードウェア設計で可能にする。

ABSTRACT

Edholm's Law predicts exponential growth in data rate and spectrum bandwidth for communications and is forecasted to remain true for the upcoming deployment of 6G. Compounding this issue is the exponentially increasing demand for deep neural network (DNN) compute, including DNNs for signal processing. However, the slowing of Moore's Law due to the limitations of transistor-based electronics means that completely new paradigms for computing will be required to meet these increasing demands for advanced communications. Optical neural networks (ONNs) are promising DNN accelerators with ultra-low latency and energy consumption. Yet state-of-the-art ONNs struggle with scalability and implementing linear with in-line nonlinear operations. Here we introduce our multiplicative analog frequency transform ONN (MAFT-ONN) that encodes the data in the frequency domain, achieves matrix-vector products in a single shot using photoelectric multiplication, and uses a single electro-optic modulator for the nonlinear activation of all neurons in each layer. We experimentally demonstrate the first hardware accelerator that computes fully-analog deep learning on raw RF signals, performing single-shot modulation classification with 85% accuracy, where a 'majority vote' multi-measurement scheme can boost the accuracy to 95% within 5 consecutive measurements. In addition, we demonstrate frequency-domain finite impulse response (FIR) linear-time-invariant (LTI) operations, enabling a powerful combination of traditional and AI signal processing. We also demonstrate the scalability of our architecture by computing nearly 4 million fully-analog multiplies-and-accumulates for MNIST digit classification. Our latency estimation model shows that due to the Shannon capacity-limited analog data movement, MAFT-ONN is hundreds of times faster than traditional RF receivers operating at their theoretical peak performance.

研究の動機と目的

• ディープニューラルネットワーク（DNN）推論におけるフォン・ノイマンボトルネックを解消するため、光子ハードウェア加速によってデータ移動を最小限に抑える。
• スケーラブルで完全アナログな光子ニューラルネットワークを構築し、1つの光子プラットフォーム上で線形行列演算と非線形活性化を効率的に統合する。
• 光の速度と光帯域を活用することで、音声や電波周波数信号などのアナログ時間的波形のリアルタイム推論を可能にする。
• 商業的部品のみを用いた実用的で低複雑度のDNNアクセラレータを実現し、アクセス可能性とスケーラビリティを確保する。
• 光帯域と信号対雑音比の物理的限界に近づくことで、シャノン制限のデータ移動を達成する。

提案手法

• データと重みは、光の周波数モードの振幅と位相に符号化され、複数の周波数チャネルにわたる並列計算を可能にする。
• 行列-ベクトル乗算は、入力信号と重み変調された光キャリアをコherentに結合する光電気的乗算を用いて1回の処理で実行する。
• 1つのデュアル・パラレル・マハーズェンダ変調器（DPMZM）を用いて、層内のすべてのニューロンの非線形活性化を実装し、インラインで非線形転送関数を適用する。
• MZMの非線形応答をモデル化し、正確なオフライン学習を可能にするために、離散コサイン変換（DCT）に基づく周波数ドメイン符号化方式を採用する。
• 「ループ」アーキテクチャのバリエーションでは、光ファイバー遅延ラインを用いて中間結果を記憶し、1セットの変調器で任意の層数を実現し、ハードウェア複雑度を低減する。
• システム全体は、レーザーダイオード、DPMZM、RF信号発生器などの市販部品を用いて実験的に検証され、デジタル-アナログ変換およびアナログ-デジタル変換によりデジタルデータとのインターフェースを実現する。

実験結果

リサーチクエスチョン

• RQ1 光速制限の遅延で、音声やRF波形などの時間的アナログ信号のリアルタイム推論を、光子DNNが達成可能か？
• RQ2 1つの電気光変調器が、高い正確性とスケーラビリティを維持しながら、層内のすべてのニューロンの非線形活性化を実装可能か？
• RQ3 周波数ドメイン符号化と光電気的乗算が、最小限のハードウェアオーバーヘッドでワンショット行列-ベクトル乗算を可能にするか？
• RQ4 量子雑音限界内で動作しながら、帯域制限のスループットを達成し、データ移動を最小限に抑えることができるか？
• RQ5 商業的市販部品のみを用いて、スケーラブルで低複雑度のDNNアクセラレータを実装可能か？

主な発見

• MAFT-ONNプロセッサは、商業的部品で構成されたハードウェアセットを用いて、3層DNNを用いてMNIST画像のリアルタイム推論を達成した。
• システムは光速制限の遅延を示し、光信号の往復時間によって最小処理遅延が決定された。
• スループットは光帯域と信号対雑音比にのみ制限され、シャノン制限のデータ移動を達成した。
• 非線形活性化は1つのDPMZMを用いて成功裏に実装され、変調器の非線形性はDCTベースの近似によりモデル化され、正確なオフライン学習を可能にした。
• 実験装置は非線形しきい値約27 dBmで動作したが、これは標準レーザー出力で達成可能であり、低-Vπ変調器を用いることで-47 dBmまで低下可能であり、低出力入力信号での動作を可能にした。
• 「ループ」アーキテクチャのバリエーションは、1セットの変調器で任意のDNNの深さをサポートでき、深層ネットワークのハードウェア複雑度と消費電力を低減した。