[논문 리뷰] A neural network walks into a lab: towards using deep nets as models for human behavior

Wei Ji, Benjamin Peters|arXiv (Cornell University)|2020. 05. 02.

Neural dynamics and brain function참고 문헌 82인용 수 46

한 줄 요약

이 논문은 심리과학에서 인간 행동의 모델로 DNNs를 사용하는 것을 제안하고, 이를 훈련하고 테스트하는 방법을 개요하며, 평가 및 기존 인지 모델과의 통합에 대해 논의한다.

ABSTRACT

What might sound like the beginning of a joke has become an attractive prospect for many cognitive scientists: the use of deep neural network models (DNNs) as models of human behavior in perceptual and cognitive tasks. Although DNNs have taken over machine learning, attempts to use them as models of human behavior are still in the early stages. Can they become a versatile model class in the cognitive scientist's toolbox? We first argue why DNNs have the potential to be interesting models of human behavior. We then discuss how that potential can be more fully realized. On the one hand, we argue that the cycle of training, testing, and revising DNNs needs to be revisited through the lens of the cognitive scientist's goals. Specifically, we argue that methods for assessing the goodness of fit between DNN models and human behavior have to date been impoverished. On the other hand, cognitive science might have to start using more complex tasks (including richer stimulus spaces), but doing so might be beneficial for DNN-independent reasons as well. Finally, we highlight avenues where traditional cognitive process models and DNNs may show productive synergy.

연구 동기 및 목표

• 전통적인 인지 과정 모델과 함께 DNNs를 인간 행동의 실현 가능한 후보 모델로 옹호한다.
• DNNs가 생태학적 사전 학습(ecological pre-training), 진단 작업 학습, 그리고 인간 행동에 대한 제한적 데이터 기반 적합화를 거치는 실험실 스타일 파이프라인을 제안한다.
• DNNs에서 인간과 유사한 사전 지식과 행동을 더 잘 포착하기 위해 더 풍부한 과제 설계와 자극 공간을 촉구한다.
• 정확도 이상의 풍부한 행동 측정치와 인간-모형 비교를 활용하는 평가 방법을 강조한다.

제안 방법

• 생태학적 사전 학습(ecological pre-training), 진단 실험실 과제 학습의 2단계 학습 패러다임을 옹호하고, 필요시 행동 데이터에 대한 제한된 적합화를 허용한다.
• 인간과 유사한 표현을 산출하기 위한 생물학적 타당성 측면의 아키텍처 방향(예: 순환형, 피드백, 주의, 스파이킹 변형)을 논의한다.
• 인간의 경험을 반영하기 위한 생태적으로 타당하고 다양하게 풍부한 학습 세트를 구성하는 것을 강조하며, 데이터 확장 및 비디오와 유사한 가변성을 포함한다.
• 인간 인지와 유사한 모듈성 및 일반화를 촉진하기 위해 다중 작업 학습과 커리큘럼 학습을 권장한다.
• 인간 차이를 포착하기 위해 여러 네트워크 인스턴스와 학습 체제를 탐구하여 개인 간 변동성을 옹호한다.

실험 결과

연구 질문

• RQ1 DNNs가 다양한 인지 과제 전반에서 다재다능하고 인간과 유사한 모델로 작용할 수 있는가?
• RQ2 진단 과제에서 DNN의 행동과 인간 행동을 가장 잘 정렬시키는 훈련 및 테스트 파이프라인은 무엇인가?
• RQ3 단순 정확도를 넘어 DNN과 인간 간의 적합도(goodness-of-fit)를 어떻게 평가해야 하는가?
• RQ4 생태적으로 타당한 사전 학습, 과제의 다양성, 다중 작업 학습이 인간과 유사한 DNN 행동을 달성하는 데 어떤 역할을 하는가?
• RQ5 인지 과정 모델과 DNN을 어떻게 통합하여 두 접근 방식의 강점을 활용할 수 있는가?

주요 결과

• DNNs는 예측 도구로서만이 아니라 행동의 후보 모델로서 진지하게 다뤄져야 한다.
• 품위 있는 모델링 파이프라인에는 생태학적 사전 학습, 진단 과제 학습, 그리고 필요시 인간 데이터에 대한 제한적 적합화가 포함된다.
• 적합도는 정확도 이외의 풍부하고 다차원적인 행동 특성화가 필요하며, 반응 분포와 반응 시간 등을 포함한다.
• 과제 설계와 학습 데이터의 풍부함이 결정적이다; 생태적으로 타당하고 다양한 과제가 DNN의 사전지식을 인간 인지와 일치시키는 데 도움이 된다.
• 인지 과정 모델과 DNN을 결합한 하이브리드 접근 방식은 인지에 대한 이해를 심화시키는 생산적인 경로를 제공한다.