[論文レビュー] A correlation game for unsupervised learning yields computational interpretations of Hebbian excitation, anti-Hebbian inhibition, and synapse elimination

H. Sebastian Seung, Jonathan Zung|arXiv (Cornell University)|Apr 3, 2017

Neural dynamics and brain function参考文献 27被引用数 14

ひとこと要約

この論文は、非線形ニューラルネットワークにおけるヘブ的興奮とアンチヘブ的抑制の間のゼロサム相関ゲームとして、教師なし学習を定式化している。興奮は入力-出力相関を最大化し、抑制は出力-出力相関を最小化する。ラグランジュ双対定式化に従うシナプスの競争と削除により、オブジェクトの部品に類似したスパースな特徴を学習できる。MNISTデータ上で理論的・実験的妥当性が確認された。

ABSTRACT

Much has been learned about plasticity of biological synapses from empirical studies. Hebbian plasticity is driven by correlated activity of presynaptic and postsynaptic neurons. Synapses that converge onto the same neuron often behave as if they compete for a fixed resource; some survive the competition while others are eliminated. To provide computational interpretations of these aspects of synaptic plasticity, we formulate unsupervised learning as a zero-sum game between Hebbian excitation and anti-Hebbian inhibition in a neural network model. The game formalizes the intuition that Hebbian excitation tries to maximize correlations of neurons with their inputs, while anti-Hebbian inhibition tries to decorrelate neurons from each other. We further include a model of synaptic competition, which enables a neuron to eliminate all connections except those from its most strongly correlated inputs. Through empirical studies, we show that this facilitates the learning of sensory features that resemble parts of objects.

研究の動機と目的

• 非線形ニューラルネットワークにおけるヘブ的可塑性、アンチヘブ的抑制、およびシナプスの競争／削除の計算的解釈を提供すること。
• 出力-入力相関を最大化し、出力-出力相関を最小化する制約付き最適化問題として教師なし学習を形式化すること。
• シナプスの競争と削除が、オブジェクト部品に類似した特徴の学習を促進するスパースな接続性をもたらす仕組みを示すこと。
• ラグランジュ乗数を抑制的重みとして用いるゲーム理論的枠組みから、生物学的に妥当な可塑性ルールを導出すること。
• シナプスの削除が、密な接続と比較してオブジェクト部品の特徴をどれほど良く学習できるかを実証すること。

提案手法

• 教師なし学習を制約付き最適化問題として定式化：出力-入力相関を最大化し、出力-出力相関に上限を課す。
• ラグランジュ双対性を用いて、ヘブ的興奮とアンチヘブ的抑制がゼロサムゲームの対立プレイヤーとして作用するゲーム理論的定式化を導出する。
• 整流線形ユニット（ReLU）を用いた非線形ニューラルネットワークを実装し、双対定式化から導かれたヘブ的およびアンチヘブ的ルールに従って重みを更新する。
• 同一のニューロンに到達する興奮性シナプスが資源制約に従い、弱い結合の削除が可能となるシナプス競争メカニズムを導入する。
• 各ニューロンのシナプス重みの合計を固定するペナルティ関数を定義し、ラグランジュ乗数が大きい場合にはスパースな接続性が得られることを示す。
• 理論的分析により、残存するシナプスが最も相関の高い入力に対応しており、バイナリ重みを用いたスパースPCA解に相当することが確認された。

実験結果

リサーチクエスチョン

• RQ1 ヘブ的興奮とアンチヘブ的抑制を、教師なし学習のための単一の計算的枠組みに統合する方法は何か？
• RQ2 シナプスの競争と削除は、ニューラル表現におけるスパースで部品に類似した特徴を形成する上で、どのような計算的役割を果たすか？
• RQ3 相関ゲーム形式化は、ニューラルネットワークにおけるスパースな接続性の出現をどのように説明できるか？
• RQ4 相関最大化のラグランジュ双対定式化から、フィードフォワードおよびラテラル接続に生物学的に妥当な可塑性ルールが得られるか？
• RQ5 シナプスの削除は、密な接続と比較して、オブジェクト部品の特徴をどれほど良く学習できるか？

主な発見

• 相関ゲームフレームワークは、ヘブ的興奮とアンチヘブ的抑制がゼロサムゲームの対立プレイヤーとして作用するゲーム理論的解釈を提供する。
• ラグランジュ双対定式化により、最適化原理から自然に生じるヘブ的およびアンチヘブ的可塑性ルールを有するニューラルネットワークが得られる。
• 固定された重み合計制約によって強制されるシナプスの競争と削除により、最も相関の高い入力のみが生き残るスパースな接続性が実現される。
• MNIST上で得られた実験的結果から、シナプスの削除により、ネットワークがオブジェクトの部品に類似した特徴を学習できることを示した。密なネットワークとは異なり、全オブジェクトの特徴を学習するのではなく、部品に類似した特徴が得られた。
• 理論的分析により、残存するシナプスが上位k個の相関の高い入力に対応しており、バイナリ重みを用いたスパースPCA解に相当することが確認された。
• 重みベクトルの類似度が高くなるほど、横方向抑制の強度が増加しており、ネットワークが入力嗜好が類似したニューロンを能動的に相関除去していることが示された。