[論文レビュー] Deep learning in a bilateral brain with hemispheric specialization

Chandramouli Rajagopalan, David Rawlinson+2 more|arXiv (Cornell University)|Sep 9, 2022

Hemispheric Asymmetry in Neuroscience被引用数 4

ひとこと要約

本論文では、左側の半球が特定の特徴に特化し、右側の半球が一般化された特徴に特化するように設計された二重の人工ニューラルネットワークを提案する。別々の学習目的を用い、それらの補完的表現を重み付きアテンション機構で統合することで、階層的画像分類タスクにおいて、単一ブランチおよび対称的ベースラインを著しく上回る性能を達成した。これは、半球特化が性能向上に寄与し、AIシステムに生物学的インスパイラションをもたらす有効なインダクティブバイアスであることを示している。

ABSTRACT

The brains of all bilaterally symmetric animals on Earth are divided into left and right hemispheres. The anatomy and functionality of the hemispheres have a large degree of overlap, but there are asymmetries, and they specialise in possesses different attributes. Other authors have used computational models to mimic hemispheric asymmetries with a focus on reproducing human data on semantic and visual processing tasks. We took a different approach and aimed to understand how dual hemispheres in a bilateral architecture interact to perform well in a given task. We propose a bilateral artificial neural network that imitates lateralisation observed in nature: that the left hemisphere specialises in local features and the right in global features. We used different training objectives to achieve the desired specialisation and tested it on an image classification task with two different CNN backbones: ResNet and VGG. Our analysis found that the hemispheres represent complementary features that are exploited by a network head that implements a type of weighted attention. The bilateral architecture outperformed a range of baselines of similar representational capacity that do not exploit differential specialisation, with the exception of a conventional ensemble of unilateral networks trained on dual training objectives for local and global features. The results demonstrate the efficacy of bilateralism, contribute to the discussion of bilateralism in biological brains, and the principle may serve as an inductive bias for new AI systems.

研究の動機と目的

• 二つの機能が特化した半球が、認知的タスクにおいてどのように補い合って性能を向上させるかを調査すること。
• 左および右の人工ニューラルネットワークにおける機能的差異が、階層的画像タスクにおける分類精度を向上させるという仮説を検証すること。
• 生物学的脳にインspiredされた半球特化が、人工知覚において有用なインダクティブバイアスとして機能するかを検討すること。
• 生物学的および人工的システムにおける知能を支える二重性のメカニズムを、計算的に検証可能な形で提示すること。

提案手法

• モデルは、左および右の半球として、それぞれ異なる目的で最適化されるResNet-9畳み込みニューラルネットワークを用いる。
• 左半球は、ペンギン、アザラシなどの細分化されたカテゴリ（例：特定の種）を分類するように学習される。一方、右半球は、海の生き物などより広範なカテゴリを分類するように学習される。
• 共有の学習可能な全結合層が、両半球からの特徴を統合する重み付きアテンション機構として機能し、最終的な予測を生成する。
• 階層的画像分類ベンチマーク（一般および特定のクラスラベルを併せ持つ）を用いてアーキテクチャを評価する。
• 代表的表現能力が同等の複数のベースライン（単一ブランチネットワークおよび対称的二重ブランチモデル）と性能を比較する。
• 各半球が抽出する特徴の性質およびそれらの補完性を評価するために、モデルの内部表現を分析する。

実験結果

リサーチクエスチョン

• RQ1 特定の学習目的を持つ左および右半球が、階層的画像タスクにおける分類性能向上にどのように寄与するか。
• RQ2 二重構造が、対称的または単一ブランチアーキテクチャを上回るメカニズムは何か。
• RQ3 左半球と右半球が、生物学的半球特化に一致する形で、補完的特徴（特定的対一般的）を抽出する程度はどの程度か。
• RQ4 単純な重み付きアテンション機構が、二つの異なるニューラルパスウェイからの特化された表現を効果的に統合できるか。
• RQ5 人工ネットワークにおける半球特化が、個々の半球の明示的目的を超えて、性能向上をもたらすか。

主な発見

• 二重構造は、一般および特定の画像分類タスクの両方において、単一ブランチおよび対称的二重ブランチモデルを含む、すべての同等のベースラインを上回った。
• 左半球は局所的で細分化された特徴を抽出する傾向があり、右半球は非局所的で広範な文脈的パターンに注目する傾向があり、機能的補完性が確認された。
• 重み付きアテンション機構により、特化した表現が効果的に統合され、精度向上に寄与する特定性と一般性の両方を活用できるようになった。
• 性能向上は単なる加算的効果ではなく、特化した特徴の相互作用から生じており、半球間の協調的相互作用が示された。
• 結果は、左半球に特定性、右半球に一般性を特化させた半球特化が、人工ニューラルネットワークにおいて強力なインダクティブバイアスであるという仮説を支持する。
• 本モデルは、半球障害に応じてTMS効果が異なるなど、検証可能な神経科学的予測を提供し、今後の認知モデリングにおいて二重性を検討すべきであることを示唆している。