[論文レビュー] Bayesian synaptic plasticity makes predictions about plasticity experiments in vivo

Laurence Aitchison, Peter E. Latham|arXiv (Cornell University)|Oct 4, 2014

Neural dynamics and brain function被引用数 6

ひとこと要約

この論文は、ベイズ推論を用いて、ニューラルネットワークにおける学習効率を最大化する最適なシナプス可塑性ルールを導出する。局所的に利用可能な情報に依存することで、予測されるのは、前シナプス活動が低い場合に学習率が上昇し、前シナプスの発火レートに応じてシナプス間で変動する学習率である。これは生物学的に妥当で、柔軟なフレームワークを提供し、理論と複雑な神経動態を結びつけるものである。

ABSTRACT

Humans and other animals learn by updating synaptic weights in the brain. Rapid learning allows animals to adapt quickly to changes in their environment, giving them a large selective advantage. As brains have been evolving for several hundred million years, we might expect biological learning rules to be close to optimal, by exploiting all locally available in-formation in order to learn as rapidly as possible. However, no previously proposed learning rules are optimal in this sense. We therefore use Bayes theorem to derive optimal learning rules for supervised, unsupervised and reinforcement learning. As expected, these rules prove to be significantly more effective than the best classical learning rules. Our learning rules make two predictions about the results of plasticity experiments in active networks. First, we predict that learning rates should vary across time, increasing when fewer inputs are active. Second, we predict that learning rates should vary across synapses, being higher for synapses whose presy-naptic cells have a lower average firing rate. Finally, our methods are extremely flexible, allowing the derivation of optimal learning rules based solely on the information that is assumed, or known, to be available to the synapse. This flexibility should allow for the derivation of optimal learning rules for progressively more complex and realistic synaptic and neural models — allowing us to connect theory with complex biological reality. 1

研究の動機と目的

• 局所的に利用可能な情報のみを用いて、学習速度を最大化する意味で最適な学習ルールを開発すること。
• 進化が生物学的学習メカニズムを最適化している可能性を鑑み、既存の学習ルールが最適でないというギャップを埋めること。
• より複雑なシナプスおよび神経モデルに適用可能な、柔軟で生物学的に妥当な学習ルールを導出すること。
• アクティブな神経ネットワークにおけるシナプス可塑性に関する検証可能な予測を生成すること。
• 理論的学習ルールと実験神経科学を結ぶために、測定可能な生物学的変数に根ざしたルールを提供すること。

提案手法

• 教師あり学習、教師なし学習、強化学習の神経系における最適な学習ルールを導出するためにベイズの定理を適用する。
• シナプスが学習中に局所的情報（例えば、前シナプスおよび後シナプスの活動）にのみアクセス可能であると仮定する。
• 前シナプス活動レベルおよび発火レートに応じて、学習率を動的に調整する学習ルールを導出する。
• 確率的推論を用いて、シナプス結合荷重の更新を、結合荷重の事後分布としてモデル化する。
• 導出されたルールが生物学的制約および利用可能な実験データと整合することを保証する。
• より複雑で現実的である神経およびシナプスモデルに適応可能なフレームワークを拡張する。

実験結果

リサーチクエスチョン

• RQ1 局所的に利用可能な情報のみを用いて、学習速度の観点で最適なシナプス可塑性ルールをどのように導出できるか？
• RQ2 最適なベイズ的可塑性ルールは、アクティブな神経ネットワークにおける学習率ダイナミクスに関して、どのような具体的な予測を行うか？
• RQ3 最適な学習条件下で、時間的およびシナプス的要因に応じて学習率はどのように変化すべきか？
• RQ4 導出されたルールは、より複雑な生物学的神経構造に柔軟に適応可能か？
• RQ5 学習効率という観点から、これらのベイズ的ルールは古典的学習ルールと比べてどの程度効果的か？

主な発見

• 導出されたベイズ的可塑性ルールは、古典的学習ルールに比べて学習効率において顕著に優れている。
• 学習率は、前シナプス入力が少ない場合に上昇すると予測され、これは不確実性が高く、学習の可能性が大きいことを反映している。
• 平均的な前シナプス発火レートが低いシナプスでは、学習率が高くなると予測され、これはスパarsな活動に高い情報含量があるためである。
• フレームワークは、個々のシナプスが仮定される情報にのみ依存して、最適な学習ルールを導出可能であることを保証する。
• より複雑で生物学的に現実的な神経回路に適応可能な、柔軟でスケーラブルな学習ルールの導出アプローチを提供する。
• 理論は、特に学習率の時間的およびシナプス的不均一性に関して、実験的に検証可能な予測を生み出す。