[論文レビュー] Convergence and Alignment of Gradient Descent with Random Backpropagation Weights

Ganlin Song, Ruitu Xu+1 more|arXiv (Cornell University)|Jun 10, 2021

Stochastic Gradient Optimization Techniques参考文献 24被引用数 5

ひとこと要約

本稿は、誤差信号の逆伝播に固定されたランダム重みを使用するバックプロパゲーションの生物学的に妥当な代替手法であるフィードバックアライメントアルゴリズムを分析する。過パラメータ化された2層ネットワークにおいて、誤差が指数関数的にゼロに収束することを証明し、ランダムなフィードバック重みとの重みアライメントには正則化が不可欠であることを示し、ニューラルネットワークにおける非局所学習の理論的理解を前進させる。

ABSTRACT

Stochastic gradient descent with backpropagation is the workhorse of artificial neural networks. It has long been recognized that backpropagation fails to be a biologically plausible algorithm. Fundamentally, it is a non-local procedure -- updating one neuron's synaptic weights requires knowledge of synaptic weights or receptive fields of downstream neurons. This limits the use of artificial neural networks as a tool for understanding the biological principles of information processing in the brain. Lillicrap et al. (2016) propose a more biologically plausible "feedback alignment" algorithm that uses random and fixed backpropagation weights, and show promising simulations. In this paper we study the mathematical properties of the feedback alignment procedure by analyzing convergence and alignment for two-layer networks under squared error loss. In the overparameterized setting, we prove that the error converges to zero exponentially fast, and also that regularization is necessary in order for the parameters to become aligned with the random backpropagation weights. Simulations are given that are consistent with this analysis and suggest further generalizations. These results contribute to our understanding of how biologically plausible algorithms might carry out weight learning in a manner different from Hebbian learning, with performance that is comparable with the full non-local backpropagation algorithm.

研究の動機と目的

• フィードバックアライメントの数学的性質を理解すること。
• 2層ニューラルネットワークにおける2乗誤差損失下での収束性と重みアライメントを調査すること。
• フィードバックアライメントが非局所的重み依存性を必要とせずにネットワークを効果的に学習できる条件を同定すること。
• 正則化が学習された重みとランダムなフィードバック重みとの間のアライメントを促進する役割を明確にすること。
• フィードバックアライメントの実験的成功を理論的に裏付ける根拠を提供すること。

提案手法

• ReLU活性化関数と2乗誤差損失を用いた2層フィードフォワードニューラルネットワークを分析する。
• 真の勾配の代わりに、ランダムで固定された逆伝播重みを用いた確率的勾配降下法を適用する。
• 重み行列のスペクトル的性質を調査するために、ランダム行列理論と集中不等式の道具を用いる。
• ランダムなガウス行列が単位行列からどれほど逸脱するかを制限するため、制限付き等長性性質（RIP）の変種を適用する。
• 再帰的誤差バウンズと幾何的減衰推定を用いて、指数的収束レートを導出する。
• 学習された重みとランダムなフィードバック重みとの間のアライメントを強制するために正則化を導入する。

実験結果

リサーチクエスチョン

• RQ1 過パラメータ化された2層ネットワークにおいて、フィードバックアライメントがどの条件下で誤差がゼロに収束するか？
• RQ2 正則化が存在しない場合、なぜフィードバックアライメントはランダムな逆伝播重みとの重みアライメントに失敗するのか？
• RQ3 ランダムなフィードバック重みの使用は、勾配降下法の収束速度にどのように影響するか？
• RQ4 正則化がフィードバックアライメントにおける重みアライメントをどのように促進するか？
• RQ5 過パラメータ化といった現実的な仮定の下で、フィードバックアライメントに対する理論的保証を確立できるか？

主な発見

• 過パラメータ化された状態では、誤差が学習率とスペクトルギャップに依存する指数関数的速さでゼロに収束する。
• 正則化がなければ、長時間にわたる学習後でさえも、パラメータはランダムな逆伝播重みとアライメントしない。
• 正則化ありの場合は、学習された重みがランダムなフィードバック重みとアライメントし、効果的な学習が可能になる。
• 収束レートは、学習率とグラム行列の最小固有値を含む幾何的減衰係数によって上限が与えられる。
• シミュレーションにより理論的予測が確認され、正則化がある場合にのみ指数的誤差減少とアライメントが観察される。
• 本分析により、適切な条件下ではフィードバックアライメントが標準的なバックプロパゲーションと同等の性能を達成できることを示している。