[論文レビュー] Brain-inspired learning in artificial neural networks: a review

Samuel Schmidgall, Jascha Achterberg+5 more|arXiv (Cornell University)|May 18, 2023

Advanced Memory and Neural Computing被引用数 5

ひとこと要約

この論文は、継続的かつ生涯にわたる学習の制限を克服するために、生物学的に妥当なシナプス可塑性、神経調節、局所的学習ルールを重視する、人工ニューラルネットワーク（ANN）における脳にインspiredした学習メカニズムをレビューしている。これらの神経科学に裏付けられた原則を統合することで、ANNはより適応的で、エネルギー効率が良く、安定した学習を達成でき、脳の動的で生涯にわたる学習能力を模倣することができる。

ABSTRACT

Artificial neural networks (ANNs) have emerged as an essential tool in machine learning, achieving remarkable success across diverse domains, including image and speech generation, game playing, and robotics. However, there exist fundamental differences between ANNs' operating mechanisms and those of the biological brain, particularly concerning learning processes. This paper presents a comprehensive review of current brain-inspired learning representations in artificial neural networks. We investigate the integration of more biologically plausible mechanisms, such as synaptic plasticity, to enhance these networks' capabilities. Moreover, we delve into the potential advantages and challenges accompanying this approach. Ultimately, we pinpoint promising avenues for future research in this rapidly advancing field, which could bring us closer to understanding the essence of intelligence.

研究の動機と目的

• 生物学的に妥当な学習メカニズム（例：シナプス可塑性、神経調節）を特定・分析し、それらを人工ニューラルネットワーク（ANN）に統合することで、学習の適応性を向上させること。
• 現在のANNが、生物学的脳が示すような安定的で継続的かつ生涯にわたる学習を達成する点で直面する根本的制限を解決すること。
• 脳にインスパイドされたアルゴリズムが、AIシステムの能力向上と脳の計算プロセスの理解を深める双方に寄与するという点で、神経科学とAIを橋渡しすること。
• スパイク時刻依存可塑性（STDP）を模倣するような局所的学習ルールが、バックプロパゲーションを置き換えたり補完したりすることで、より生物学的に現実的な学習を実現する方法を検討すること。
• エネルギー効率が良く、適応的なAIシステムの開発に向けた、未解決の研究課題と今後の方向性を特定すること。

提案手法

• 長期強化（LTP）および長期弱化（LTD）を含む、生物学的神経回路における学習の基盤となるシナプス可塑性メカニズムの体系的レビュー。
• ドーパミン、アセチルコリンなどの神経伝達物質による神経調節の検討。これはシナプス強度と神経の興奮性を調節し、文脈依存的学習を可能にする。
• スパイク時刻依存可塑性（STDP）を分析。これは、前シナプスと後シナプスのスパイク時刻に依存してシナプス重みを変更する、局所的かつヘブ的学習ルールである。
• バックプロパゲーションと、フィードバックアライメントや局所的学習ルールなどの生物学的に妥当な代替手法を比較し、人工ネットワークにおける実現可能性を評価する。
• 局所的学習ルールをディープラーニングアーキテクチャに統合し、グローバルな誤差信号なしに責任割り当てを可能にすることで、脳に類似した学習ダイナミクスを再現する。
• 人工ニューラルネットワークを計算モデルとして用い、脳機能に関する理論を検証・精緻化する。神経接続主義的研究プログラムを形成する。

Figure 1: Graphical depiction of long-term potentiation (LTP) and depression (LTD) at the synapse biological neurons. A. Synaptically connected pre- and post-synaptic neurons. B. Synaptic terminal, the connection point between neurons. C. Synaptic growth (LTP) and synaptic weakening (LTD). D. Top. M

実験結果

リサーチクエスチョン

• RQ1 LTPやLTDのようなシナプス可塑性メカニズムを、生物学的に妥当な学習を可能にするために、人工ニューラルネットワークに効果的にモデル化・実装する方法は何か？
• RQ2 神経調節は学習ダイナミクスにどのように寄与するのか。文脈に応じた適応を支援するために、人工ネットワークでどのように模倣できるか？
• RQ3 STDPのような局所的学習ルールが、性能と生物学的妥当性を保ちつつ、深層ネットワークの学習においてバックプロパゲーションを置き換えたり補完したりできる程度はどの程度か？
• RQ4 人工ニューラルネットワークは、脳の生涯にわたる適応能力に類似した継続的かつ生涯にわたる学習をどのように支援できるか？
• RQ5 神経科学の知見をAI開発に統合することで得られる相互利益、およびAIモデルを用いて脳の計算プロセスの理解を進める方法は何か？

主な発見

• シナプス可塑性、特にLTPとLTDは、生物学的システムにおける学習と記憶の基盤的メカニズムを提供し、ANNに組み込むことで適応性が向上する。
• 神経調節は神経回路とシナプス強度の動的制御を可能にし、人工ネットワークに文脈依存的学習を実装する道筋を提供する。
• スパイク時刻依存可塑性（STDP）は、前シナプスおよび後シナプスの活動タイミングに基づいて重みを更新する生物学的に妥当な局所的学習ルールとして機能する。
• バックプロパゲーションは深層学習において非常に効果的であるが、生物学的に妥当ではない。フィードバックアライメントなどの局所的学習ルールは、脳にインスパイドされた学習のための有望な代替手段である。
• 脳にインスパイドされた学習メカニズムをANNに統合することで、特に継続的かつ生涯にわたる学習の場面において、よりエネルギー効率が良く、安定的で適応的なシステムが実現できる。
• 神経科学とAIの調和は相乗的である：脳にインスパイドされたAIモデルは脳機能の理論を検証・精緻化するのを助け、逆に神経科学はより強固で汎用性の高いAIアルゴリズムの開発を促進する。

Figure 2: There are strong parallels between artificial and brain-like learning algorithms. Left. Top. Graphical depiction of a rodent and a cluster of interconnected neurons. Middle. Rodent is participating in the Morris water maze task to test its learning capabilities. Bottom A graphical depictio