[논문 리뷰] Modeling Object Recognition in Newborn Chicks using Deep Neural Networks

Donsuk Lee, Denizhan Pak외 1명|arXiv (Cornell University)|2021. 06. 14.

Marine animal studies overview참고 문헌 23인용 수 13

한 줄 요약

이 연구는 자기지도 학습을 통해 학습된 깊이 신경망(DNN)의 특징 표현을 사용하여, 태아기 아귀에서의 물체 인식을 어떻게 모델링할 수 있는지 조사한다. 비지도 학습 DNN 특징이 지도 학습 특징과 경쟁 가능한 예측을 제공함을 보여주며, 이는 비지도 학습 메커니즘이 태아기 뇌에서 초기 물체 인식의 기초가 될 수 있음을 시사한다.

ABSTRACT

In recent years, the brain and cognitive sciences have made great strides developing a mechanistic understanding of object recognition in mature brains. Despite this progress, fundamental questions remain about the origins and computational foundations of object recognition. What learning algorithms underlie object recognition in newborn brains? Since newborn animals learn largely through unsupervised learning, we explored whether unsupervised learning algorithms can be used to predict the view-invariant object recognition behavior of newborn chicks. Specifically, we used feature representations derived from unsupervised deep neural networks (DNNs) as inputs to cognitive models of categorization. We show that features derived from unsupervised DNNs make competitive predictions about chick behavior compared to supervised features. More generally, we argue that linking controlled-rearing studies to image-computable DNN models opens new experimental avenues for studying the origins and computational basis of object recognition in newborn animals.

연구 동기 및 목표

• 신생아 동물에서의 물체 인식을 뒷받침하는 계산적 메커니즘, 특히 비지도 학습의 역할을 조사하기 위해.
• 비지도 깊이 신경망에서 유도된 특징 표현이 태아기 아귀의 시점에 관계없는 물체 인식 행동을 예측할 수 있는지 테스트하기 위해.
• 통제된 기르기 행동 연구와 이미지 계산 가능한 깊이 신경망 모델을 연결하여 물체 인식의 기원을 연구하기 위해.
• 비지도 DNN 특징의 예측 능력을 지도 학습 대비 특징과 비교하여 아귀의 분류 행동 모델링 능력을 평가하기 위해.

제안 방법

• 자연 이미지 데이터셋을 사용하여 자기지도 대비 학습(SimCLR)을 통해 깊이 신경망을 훈련하여 비지도 특징를 학습하였다.
• 훈련된 DNN의 이전 단계의 활성화 특징을 추출하여 시각 자극의 표현으로 사용하였다.
• 이러한 DNN 기반 특징을 분류의 인지 모델에 입력으로 사용하였으며, 특히 아귀 행동 데이터에 기반한 선형 분류기로 훈련하였다.
• 비지도 DNN 특징의 모델 예측을 지도 학습 DNN 특징(예: ImageNet 사전 훈련 모델)의 예측과 비교하였다.
• 예측된 분류 행동과 통제된 기르기 실험에서 관찰된 아귀 행동을 비교하여 모델 성능을 평가하였다.
• 행동적 관련성을 확보하기 위해 아귀 물체 인식 실험에서 사용된 자극에 동일한 특징 추출 및 분류 파이프라인을 적용하였다.

실험 결과

연구 질문

• RQ1 비지도 깊이 신경망 특징는 태아기 아귀의 시점에 관계없는 물체 인식 행동을 예측할 수 있는가?
• RQ2 비지도 DNN 특징의 예측 정확도는 지도 학습 DNN 특징와 비교하여 어떻게 다른가?
• RQ3 비지도 DNN의 성능은 태아기 뇌에서 초기 물체 인식의 기초가 되는 학습 메커니즘에 대해 무엇을 시사하는가?
• RQ4 이미지 계산 가능한 깊이 신경망 모델은 통제된 행동 실험과 효과적으로 연결될 수 있는가?

주요 결과

• 대비 학습을 통해 유도된 비지도 DNN 특징는 아귀의 물체 인식 행동을 모델링할 때 지도 학습 DNN 특징와 비교해 유사한 예측 성능을 보였다.
• 이 연구는 자기지도 표현 학습이 태아기 아귀가 보이는 시점에 관계없는 분류에 필요한 핵심 불변성을 포착할 수 있음을 입증한다.
• 결과는 비지도 학습 메커니즘이 신생아 동물에서 초기 물체 인식의 계산적 기초를 뒷받침할 수 있다는 가설을 지지한다.
• DNN 모델을 통제된 기르기 행동 연구와 연결함으로써, 시각 인지의 기원을 탐구할 수 있는 새로운 실험적 길을 열어준다.