[論文レビュー] Efficient and robust multi-task learning in the brain with modular latent primitives

Christian D. Márton, Léo Gagnon+2 more|arXiv (Cornell University)|May 28, 2021

Neural Networks and Applications被引用数 5

ひとこと要約

本論文では、生物学的にインspiredされた再帰的ニューラルネットワークアーキテクチャであるモジュラー潜在的プリミティブ（MoLaP）を提案する。MoLaPは、事前学習されたモジュラー潜在的ダイナミクスを活用することで、効率的かつ頑健なマルチタスク学習を実現する。神経科学的タスクコーパスの共有統計に、タスクに依存しない分離可能な潜在モジュールを訓練することで、標準的な継続的学習アプローチと比較して、より速い学習、より少ないパラメータ更新、および摂動に対する優れた耐性を達成する。

ABSTRACT

Biological agents do not have infinite resources to learn new things. For this reason, a central aspect of human learning is the ability to recycle previously acquired knowledge in a way that allows for faster, less resource-intensive acquisition of new skills. In spite of that, how neural networks in the brain leverage existing knowledge to learn new computations is not well understood. In this work, we study this question in artificial recurrent neural networks (RNNs) trained on a corpus of commonly used neuroscience tasks. Combining brain-inspired inductive biases we call functional and structural, we propose a system that learns new tasks by building on top of pre-trained latent dynamics organised into separate recurrent modules. These modules, acting as prior knowledge acquired previously through evolution or development, are pre-trained on the statistics of the full corpus of tasks so as to be independent and maximally informative. The resulting model, we call a Modular Latent Primitives (MoLaP) network, allows for learning multiple tasks while keeping parameter counts, and updates, low. We also show that the skills acquired with our approach are more robust to a broad range of perturbations compared to those acquired with other multi-task learning strategies, and that generalisation to new tasks is facilitated. This work offers a new perspective on achieving efficient multi-task learning in the brain, illustrating the benefits of leveraging pre-trained latent dynamical primitives.

研究の動機と目的

• 事前にある神経的インダクティブバイアス（構造的および機能的両方）が、人工再帰的ネットワークにおける効率的マルチタスク学習をどのように可能にするかを調査すること。
• 生物学的エージェントが進化的に獲得されたか、発達的に得られた知識を再利用することで、新しいタスクの学習をどのように加速できるかをモデル化すること。
• タスク間で表現を因子化するフレームワークを構築すること、その際、分離可能で最大限の情報量を持つ潜在モジュールを用いること。
• このようなモジュラーで事前学習された潜在的ダイナミクスのアプローチが、マルチタスク学習のシナリオにおける頑健性と一般化性能を向上させるかどうかを評価すること。

提案手法

• 9つの神経科学的タスクの全コーパスを用いて、標準的相関分析（CCA）を用いて、最大限の情報量を持ち、分離可能な潜在的ダイナミクスを抽出するように、独立した再帰的モジュールを事前学習する。
• すべてのタスクの入力および出力に対して主成分分析（PCA）を適用し、モジュールの事前学習のための低次元表現を導出する。
• 事前学習後、すべての再帰的重みを固定し、9つのタスクそれぞれについて、タスク固有の入力および出力重みのみを訓練する。
• 各モジュールが再利用可能な機能的プリミティブを実装するモジュラー構造を採用し、因子化され、タスクに依存しない表現を実現する。
• L2正則化および活性度正則化を適用し、タスク適応には固定された学習率1e-2を用いる。
• モジュラーおよびグローバルな摂動に対する、欠損化、ノイズ注入、活性度のシャッターを用いて、耐性を評価する。

実験結果

リサーチクエスチョン

• RQ1 事前学習済みでモジュラーな潜在的ダイナミクスは、人工RNNにおけるマルチタスク学習の効率性と頑健性を向上させることができるか？
• RQ2 分離可能でタスクに依存しない潜在的プリミティブを用いた学習は、パラメータ効率性および一般化性能の観点で、標準的な継続的学習と比べてどのように異なるか？
• RQ3 モジュラーな潜在的プリミティブは、神経ネットワークにおける構造的および機能的摂動に対して、どの程度耐性を高めるか？
• RQ4 このようなシステムは、脳が多様なタスク間で進化的に獲得されたか、学習で得た機能的プリミティブを再利用する能力を模倣できるか？
• RQ5 共有された事前学習済みの潜在的ダイナミクスを用いることで、未観測のタスクへの一般化性能が向上するか？

主な発見

• MoLaPは9つのタスクすべてで高い性能を達成し、ほとんどのタスクでテスト精度が90％を超えることが確認され、微調整を最小限に抑えた効果的なタスク学習が実現した。
• 重みの欠損およびノイズに対する耐性が著しく向上しており、30％のグローバル重み欠損状態でも性能低下が10％未満に抑えられ、ベースラインモデルを上回った。
• モジュラー摂動はグローバル摂動よりも性能低下が小さく、モジュラリティが損傷の拡散を制限し、ネットワークの耐性を高めることを示した。
• 新しいタスクへの一般化が促進された。分離可能な潜在的ダイナミクスが、タスクコーパス全体の共有統計的構造を捉えていたためである。
• 事前学習されたモジュールが、CCAおよび全タスクコーパスに対するPCAの確認を通じて、入出力変換の最大限の情報量を持ち、分離可能な表現を捉えていたことが確認された。
• タスク固有の適応には入力および出力重みの小さな更新しか必要としなかったため、新しいタスク学習にかかるパラメータおよび計算コストが低減したことが示された。