[論文レビュー] Modeling Object Recognition in Newborn Chicks using Deep Neural Networks

Donsuk Lee, Denizhan Pak+1 more|arXiv (Cornell University)|Jun 14, 2021

Marine animal studies overview参考文献 23被引用数 13

ひとこと要約

本研究では、自己教師ありDNNの特徴表現を用いて、新生児カラスにおける視覚的不変な分類行動を予測することで、教師なし深層ニューラルネットワーク（DNN）が新生児の物体認識をモデル化できるかを調査している。教師なしDNN特徴が教師あり特徴と同等の予測を示すことが示された。これは、教師なし学習メカニズムが新生児脳における初期の物体認識の背後にある可能性を示唆している。

ABSTRACT

In recent years, the brain and cognitive sciences have made great strides developing a mechanistic understanding of object recognition in mature brains. Despite this progress, fundamental questions remain about the origins and computational foundations of object recognition. What learning algorithms underlie object recognition in newborn brains? Since newborn animals learn largely through unsupervised learning, we explored whether unsupervised learning algorithms can be used to predict the view-invariant object recognition behavior of newborn chicks. Specifically, we used feature representations derived from unsupervised deep neural networks (DNNs) as inputs to cognitive models of categorization. We show that features derived from unsupervised DNNs make competitive predictions about chick behavior compared to supervised features. More generally, we argue that linking controlled-rearing studies to image-computable DNN models opens new experimental avenues for studying the origins and computational basis of object recognition in newborn animals.

研究の動機と目的

• 新生児動物における物体認識の背後にある計算的メカニズム、特に教師なし学習の役割を解明すること。
• 教師なし深層ニューラルネットワークからの特徴表現が、新生児カラスにおける視覚的不変な物体認識行動を予測できるかを検証すること。
• 制御された飼育行動実験と画像計算可能な深層学習モデルを結びつけることで、物体認識の起源を研究すること。
• 教師ありDNN特徴と比較して、教師なしDNN特徴のカラス分類行動モデル化における予測性能を評価すること。

提案手法

• 自然画像データセットを用いて自己教師あり対照学習（SimCLR）を用いてDNNを訓練し、教師なし特徴を学習する。
• 訓練済みDNNの最終層の1つ前（ペンultimate layer）の活性化特徴を、視覚刺激の表現として抽出する。
• これらのDNN由来の特徴を、特にカラス行動データに基づいて訓練された線形分類器を用いた分類認知モデルの入力として使用する。
• 教師なしDNN特徴のモデル予測を、教師ありDNN特徴（例：ImageNetで事前学習されたモデル）の予測と比較する。
• モデルの性能を、制御された飼育実験における観察されたカラス行動と比較することで評価する。
• 行動的関連性を保証するため、カラスの物体認識実験で用いられた刺激に対しても、同じ特徴抽出および分類パイプラインを適用した。

実験結果

リサーチクエスチョン

• RQ1 教師なし深層ニューラルネットワーク特徴は、新生児カラスにおける視覚的不変な物体認識行動を予測できるか？
• RQ2 教師なしDNN特徴の予測精度は、教師ありDNN特徴と比較してどの程度か？
• RQ3 教師なしDNNの性能は、新生児脳における初期の物体認識の背後にある学習メカニズムについて何を示唆するか？
• RQ4 画像計算可能な深層学習モデルは、新生児動物の制御された行動実験と効果的に結びつけられるか？

主な発見

• 対照学習を用いて得た教師なしDNN特徴は、カラスの物体認識行動をモデル化するうえで、教師ありDNN特徴と同等の予測性能を達成した。
• 本研究では、自己教師あり表現学習が、新生児カラスが示す視覚的不変分類に必要な本質的な不変性を捉えられることを示した。
• 結果から、教師なし学習メカニズムが、新生児動物における初期の物体認識の計算的基盤を担っている可能性があるという仮説が支持された。
• DNNモデルと制御された飼育行動実験を結びつけることで、視覚認知の起源を調べるための新しい実験的アプローチが可能になった。