[논문 리뷰] Predictive Coding-based Deep Dynamic Neural Network for Visuomotor Learning

Jungsik Hwang, Jinhyung Kim외 3명|arXiv (Cornell University)|2017. 06. 08.

Action Observation and Synchronization참고 문헌 22인용 수 3

한 줄 요약

이 논문은 예측 코딩 기반의 딥 다이나믹 신경망을 제안하여, 예측 오차를 최소화함으로써 의도를 추론하고 동적 감각 패턴을 시뮬레이션함으로써 시각운동 학습을 가능하게 한다. 이 모델은 들어오는 시각운동 입력을 정신적으로 시뮬레이션하고 배경에 있는 의도를 추론할 수 있으며, 교차 모odal 표현 재구성 기능을 보이며, 로봇의 모방 작업에서 거울 뉴런 시스템의 예측 코딩 해석을 뒷받침한다.

ABSTRACT

This study presents a dynamic neural network model based on the predictive coding framework for perceiving and predicting the dynamic visuo-proprioceptive patterns. In our previous study [1], we have shown that the deep dynamic neural network model was able to coordinate visual perception and action generation in a seamless manner. In the current study, we extended the previous model under the predictive coding framework to endow the model with a capability of perceiving and predicting dynamic visuo-proprioceptive patterns as well as a capability of inferring intention behind the perceived visuomotor information through minimizing prediction error. A set of synthetic experiments were conducted in which a robot learned to imitate the gestures of another robot in a simulation environment. The experimental results showed that with given intention states, the model was able to mentally simulate the possible incoming dynamic visuo-proprioceptive patterns in a top-down process without the inputs from the external environment. Moreover, the results highlighted the role of minimizing prediction error in inferring underlying intention of the perceived visuo-proprioceptive patterns, supporting the predictive coding account of the mirror neuron systems. The results also revealed that minimizing prediction error in one modality induced the recall of the corresponding representation of another modality acquired during the consolidative learning of raw-level visuo-proprioceptive patterns.

연구 동기 및 목표

• 예측 코딩을 통해 인지와 행동을 통합하는 동적 신경망 모델을 개발하여 시각운동 학습을 수행하는 것.
• 예측 오차 최소화를 통해 관찰된 시각운동 행동 뒤에 숨겨진 의도를 추론할 수 있도록 하는 것.
• 예측 오차 최소화가 한 감각 모odal에서 발생할 경우, 통합 학습 과정 중 다른 모달에서 표현의 재구성을 유도하는지 조사하는 것.
• 외부 입력 없이도 상향식으로 동적 시각-근골격 패턴을 시뮬레이션할 수 있는 능력을 모델이 보유하고 있는지 검증하는 것.
• 예측 코딩 프레임워크가 사회인지에서 거울 뉴런 시스템의 功能을 설명하는 데 기여하는지 뒷받침하는 것.

제안 방법

• 모델은 시각적 및 운동감각 입력을 모두 처리할 수 있는 딥 다이나믹 신경망 아키텍처를 기반으로 구축된다.
• 예측 오차를 다중층에서 최소화하여 내부 표현을 정교화하는 예측 코딩 프레임워크를 적용한다.
• 상향식 피드백 연결을 사용하여 추론된 의도에 기반해 예상되는 감각 패턴을 시뮬레이션한다.
• 훈련 과정에서 원시 수준의 시각-운동감각 패턴이 다양한 모달 간에 공유되는 내부 표현으로 통합된다.
• 예측 오차 최소화가 감각 예측과 의도 추론을 동시에 이끌어내어, 볼 수 없는 행동의 정신적 시뮬레이션을 가능하게 한다.
• 로봇이 다른 로봇의 제스처를 모방하는 시뮬레이션 환경에서 훈련되며, 의도 상태가 감독 신호로 사용된다.

실험 결과

연구 질문

• RQ1 딥 다이나믹 신경망은 예측 오차 최소화를 통해 관찰된 시각운동 행동의 숨겨진 의도를 추론할 수 있는가?
• RQ2 외부 감각 입력이 없는 상황에서 모델은 얼마나 정확히 동적 시각-운동감각 패턴을 시뮬레이션할 수 있는가?
• RQ3 예를 들어, 시각 모달에서 예측 오차를 최소화할 경우, 해당되는 운동감각 표현이 다른 모달에서 재구성되는가?
• RQ4 예측 코딩 프레임워크는 지속적인 시각운동 학습 과정에서 인지와 행동의 통합을 어떻게 지원하는가?
• RQ5 모델의 내부 역학은 예측 코딩에 의해 설명되는 거울 뉴런 시스템의 기능적 특성을 모방할 수 있는가?

주요 결과

• 의도 상태가 주어지면, 외부 감각 입력 없이도 상향식으로 동적 시각-운동감각 패턴의 정신적 시뮬레이션을 성공적으로 생성하였다.
• 예측 오차 최소화가 관찰된 시각운동 시퀀스 뒤에 숨겨진 의도를 정확히 추론할 수 있었으며, 이는 거북 뉴런의 예측 코딩 해석을 뒷받침한다.
• 한 모달에서 예측 오차를 최소화함으로써 다른 모달에서 해당 표현의 재구성이 유도되었으며, 이는 교차 모달 통합을 보여준다.
• 예측 코딩 프레임워크 하에서 종단간 학습을 통해 인지와 행동 간의 원활한 조율을 달성하였다.
• 결과적으로, 예측 오차가 시각운동 학습에서 인지, 추론, 정신적 시뮬레이션의 통합 메커니즘으로서의 역할을 강조한다.
• 모델는 에피제네틱스 및 발달적 로봇공학에 적용 가능함을 입증하며, 견고한 성능을 보였다.