[論文レビュー] Synergistic information supports modality integration and flexible learning in neural networks solving multiple tasks

Alexandra M. Proca, Fernando E. Rosas+4 more|arXiv (Cornell University)|Oct 6, 2022

Neural Networks and Applications被引用数 7

ひとこと要約

本論文は、教師あり学習および強化学習の過程における情報処理を分析するために部分的情報分解（PID）を適用し、人工ニューラルネットワークにおける協調的情報が柔軟でマルチモーダルな学習をどのように支援するかを調査している。その結果、ネットワークが複数の多様なタスクを学習する際、協調的情報が増加し、モダリティ統合と効率的学習が可能になることが判明した。一方、ドロップアウトは耐障害性を高めるために冗長性を強化する。これらは、人工的および生物学的システムにおける汎用的認知の根幹を成す協調的情報の重要性を示している。

ABSTRACT

Striking progress has recently been made in understanding human cognition by analyzing how its neuronal underpinnings are engaged in different modes of information processing. Specifically, neural information can be decomposed into synergistic, redundant, and unique features, with synergistic components being particularly aligned with complex cognition. However, two fundamental questions remain unanswered: (a) precisely how and why a cognitive system can become highly synergistic; and (b) how these informational states map onto artificial neural networks in various learning modes. To address these questions, here we employ an information-decomposition framework to investigate the information processing strategies adopted by simple artificial neural networks performing a variety of cognitive tasks in both supervised and reinforcement learning settings. Our results show that synergy increases as neural networks learn multiple diverse tasks. Furthermore, performance in tasks requiring integration of multiple information sources critically relies on synergistic neurons. Finally, randomly turning off neurons during training through dropout increases network redundancy, corresponding to an increase in robustness. Overall, our results suggest that while redundant information is required for robustness to perturbations in the learning process, synergistic information is used to combine information from multiple modalities -- and more generally for flexible and efficient learning. These findings open the door to new ways of investigating how and why learning systems employ specific information-processing strategies, and support the principle that the capacity for general-purpose learning critically relies in the system's information dynamics.

研究の動機と目的

• 学習過程における人工ニューラルネットワーク内の協調的情報がどのように出現するか、および認知におけるその機能的役割を理解すること。
• 情報分解の各成分（協調的、冗長性、独自性）とマルチタスク環境下での学習パフォーマンスとの関係を調査すること。
• ドロップアウトなどの訓練手法がニューラルネットワーク内の情報処理ダイナミクスに与える影響を調査すること。
• 情報ダイナミクスが人工系における汎用的学習をどのように支えるかの計算的基盤を確立すること。
• 特に高次認知に関与する脳領域に関連して、人工ネットワークと生物学的ニューロン系との類似性を明らかにすること。

提案手法

• ニューラルネットワークの活性化状態に部分的情報分解（PID）を適用し、情報の独自性、冗長性、協調的成分に分解する。
• 論理ゲート、3次元ナビゲーション、認知意思決定ベンチマーク（Animal-AI、NeuroGym）を含む多様なタスクに対して、小さな人工ニューラルネットワークを訓練する。
• 再帰的接続の有無に関わらず、教師あり学習および強化学習を用いて、さまざまな訓練手法における情報処理を評価する。
• 結果の妥当性を高めるために、2種類の異なる冗長性測定法（$I_{\text{MMI}}$ と $I_{\min}$）と、離散的および連続的の両方の情報推定手法を用いる。
• ニューロンレベルでの情報含量を分析し、異なる学習状況においてどのタイプのニューロン（協調的、独自性、冗長性）が優勢であるかを特定する。
• 訓練中にニューロンをランダムに無効化するドロップアウトの影響を評価し、冗長性および協調的情報の変化を測定する。

実験結果

リサーチクエスチョン

• RQ1 複数の多様なタスクを学習する際、単一タスクと比較してニューラルネットワーク内の協調的情報はどのように変化するか？
• RQ2 複数の情報源の統合を要するタスクにおいて、協調的情報が果たす機能的役割は何か？
• RQ3 訓練中にドロップアウトを適用することで、独自性、冗長性、協調的情報の分布はどのように変化するか？
• RQ4 情報分解の各成分が、生物学的脳における既知の機能的特化とどの程度一致するか？
• RQ5 協調的情報処理は、人工系における柔軟で汎用的な学習と結びつけることができるか？

主な発見

• 複数の多様なタスクを学習する際、特に複数の情報源の統合を要するタスクでは、協調的情報が顕著に増加する。
• マルチモーダルまたはクロスソース統合を要するタスクでは、高い協調的情報含量を持つニューロンに強く依存している。
• 訓練中にドロップアウトを適用することで、冗長性と耐障害性が向上し、タスクに不要な特徴が最小限に抑えられる。これは、冗長性がシステム安定性の機能的役割を果たしていることを示唆する。
• 物理シミュレーションを含む複雑な強化学習環境では、複数の感覚的および文脈的入力の統合が協調的情報の出現をもたらす。
• 矛盾する複数のタスクの統合は、協調的情報の増加を特に関連づけ、柔軟で適応的な行動を支援する。
• 純粋な選択性を示すニューロンは、主に独自性および冗長性の表現を示すが、協調的ニューロンは情報統合と柔軟な学習の中心的役割を果たす。