[論文レビュー] Training of Physical Neural Networks

Ali Momeni, Babak Rahmani+26 more|arXiv (Cornell University)|Jun 5, 2024

Neural Networks and Applications被引用数 4

ひとこと要約

本論文は、光学や電子工学などの物理的システムを用いて計算を実行する物理的ニューラルネットワーク（PNN）のトレーニング手法について包括的なレビューを提供する。バックプロパゲーションに基づく手法、バックプロパゲーションフリーな手法、および局所学習手法を評価し、効率性、耐障害性、ハードウェア互換性の面でのトレードオフを強調するとともに、スケーラブルでエネルギー効率の高いAIシステムのための主な課題と今後の方向性を特定する。

ABSTRACT

Physical neural networks (PNNs) are a class of neural-like networks that leverage the properties of physical systems to perform computation. While PNNs are so far a niche research area with small-scale laboratory demonstrations, they are arguably one of the most underappreciated important opportunities in modern AI. Could we train AI models 1000x larger than current ones? Could we do this and also have them perform inference locally and privately on edge devices, such as smartphones or sensors? Research over the past few years has shown that the answer to all these questions is likely "yes, with enough research": PNNs could one day radically change what is possible and practical for AI systems. To do this will however require rethinking both how AI models work, and how they are trained - primarily by considering the problems through the constraints of the underlying hardware physics. To train PNNs at large scale, many methods including backpropagation-based and backpropagation-free approaches are now being explored. These methods have various trade-offs, and so far no method has been shown to scale to the same scale and performance as the backpropagation algorithm widely used in deep learning today. However, this is rapidly changing, and a diverse ecosystem of training techniques provides clues for how PNNs may one day be utilized to create both more efficient realizations of current-scale AI models, and to enable unprecedented-scale models.

研究の動機と目的

• 物理的プラットフォームごとに多様なPNNトレーニング手法を分析・比較すること。
• PNNのスケーリングに伴う主な課題、特にエネルギー効率、ハードウェアの耐障害性、トレーニング速度を特定すること。
• 計算コストとハードウェア互換性の観点から、バックプロパゲーションに基づく手法とバックプロパゲーションフリーな手法のトレードオフを評価すること。
• 内在的な物理的ダイナミクスを活用することで、大規模かつ低消費電力なAI推論をPNNで実現可能かどうかを評価すること。
• 現在の手法における耐障害性やノイズへの耐性の欠落といったギャップを特定し、今後の研究のためのロードマップを提示すること。

提案手法

• PNNのトレーニング手法をバックプロパゲーションに基づく、バックプロパゲーションフリーな、および局所学習アプローチに体系的に分類する。
• メモリ要件、ウォールクロック時間での収束時間、デジタルシミュレーションの必要性、物理的パrameterの更新への対応性に基づいて各手法を評価する。
• 直接フィードバックアライメント（DFA）、均衡プロパゲーション（EP）、ハミルトニアンエコー逆誤差伝搬（HEB）、スキャタリング逆誤差伝搬を含む、重要な技術を導入する。
• メモリ負荷を低減し、トレーニング効率を向上させるために、物理的感知バックプロパゲーションおよびアドジョイント法に基づくアプローチを分析する。
• 同時摂動確率的近似（SPSA）や集団ベースのアルゴリズム（例：遺伝的アルゴリズム）などの勾配フリー最適化手法を検討する。
• 物理的勾配計算の重要性と、損失なしのシステムにおける時間反転対称性の活用が、効率的なトレーニングに寄与することを強調する。

実験結果

リサーチクエスチョン

• RQ1 物理的ニューラルネットワークにおけるバックプロパゲーションに基づく手法とバックプロパゲーションフリーな手法の間で、主なトレードオフは何か？
• RQ2 PNNハードウェアの内在的物理的ダイナミクスを活用することで、トレーニング効率をどのように向上させられるか？
• RQ3 デジタルシミュレーションに依存せずに、ハードウェアのばらつき、ノイズ、パrameterのドリフトに対して、PNNトレーニングをどの程度耐性を持たせられるか？
• RQ4 大規模PNNのトレーニングに必要な最小限のデジタル計算リソースは何か？ そして、それらをどのように削減できるか？
• RQ5 ローカル情報のみを必要とする局所学習ルールを用いて、物理的システムを分散型かつスケーラブルにトレーニングできるか？

主な発見

• 現在のPNNトレーニング手法では、低コストなトレーニング、PNNハードウェアの表現力の完全な活用、ハードウェアばらつきへの耐性の3つの基準を同時に満たすものは存在しない。
• インシリコBPや物理的感知BPなどのバックプロパゲーションベースの手法は、デジタルシミュレーションを必要とし、従来のディープラーニングと同等の収束時間を示すため、効率性に制限がある。
• 直接フィードバックアライメント（DFA）やスキャタリング逆誤差伝搬は、デジタル計算の必要性を低減し、完全な逆誤差伝搬なしでトレーニングを可能にするが、収束は遅い。
• アドジョイント法およびハミルトニアンエコー逆誤差伝搬（HEB）は、O(1)のメモリ要件とO(1)の収束時間を達成し、特定の物理的システムでは非常に効率的である。
• 均衡プロパゲーション（EP）とHEBは、時間反転対称性を持つ損失なしのシステムにおいて有望であり、最小限のデジタルオーバーヘッドでエネルギー効率の高いトレーニングが可能になる。
• SPSA や進化的戦略などの勾配フリー手法は、O(N·T₀)の時間とO(N)の測定回数を要するため、最適化なしでは大規模モデルには不実用的である。