[논문 리뷰] Hierarchical Predictive Coding Models in a Deep-Learning Framework

Matin Hosseini, Anthony S. Maida|arXiv (Cornell University)|2020. 05. 07.

Neural dynamics and brain function참고 문헌 53인용 수 8

한 줄 요약

이 논문은 신재계 코皮터스의 베이지안 예측 코딩에 영감을 받아 계층적 예측 코딩 모델을 위한 딥러닝 프레임워크를 제안한다. 상향식 예측과 하향식 예측 오차를 사용하여 표현을 정교화한다. 예측 오차 최소화를 통해 예측 코딩을 현대 딥러닝 아키텍처에 통합함으로써 강건하고 비지도 표현 학습이 가능하며, 이는 영상 예측, 이상 탐지, 객체 인식 등에 적용될 수 있다.

ABSTRACT

Bayesian predictive coding is a putative neuromorphic method for acquiring higher-level neural representations to account for sensory input. Although originating in the neuroscience community, there are also efforts in the machine learning community to study these models. This paper reviews some of the more well known models. Our review analyzes module connectivity and patterns of information transfer, seeking to find general principles used across the models. We also survey some recent attempts to cast these models within a deep learning framework. A defining feature of Bayesian predictive coding is that it uses top-down, reconstructive mechanisms to predict incoming sensory inputs or their lower-level representations. Discrepancies between the predicted and the actual inputs, known as prediction errors, then give rise to future learning that refines and improves the predictive accuracy of learned higher-level representations. Predictive coding models intended to describe computations in the neocortex emerged prior to the development of deep learning and used a communication structure between modules that we name the Rao-Ballard protocol. This protocol was derived from a Bayesian generative model with some rather strong statistical assumptions. The RB protocol provides a rubric to assess the fidelity of deep learning models that claim to implement predictive coding.

연구 동기 및 목표

• 신경과학에서 유래한 전통적 예측 코딩 모델과 현대 딥러닝 프레임워크를 연결하고자 한다.
• 계층적 예측 코딩 모델의 연결성과 정보 흐름을 분석하여 일반적인 계산 원리를 규명하고자 한다.
• 완화된 통계적 가정 하에 예측 코딩을 딥러닝 도구를 사용해 구현할 수 있는지의 타당성과 효과성을 입증하고자 한다.
• 일반적인 딥러닝 네트워크에서 자주 생략되는 피드백 연결이 학습과 표현 품질을 어떻게 향상시킬 수 있는지 탐색하고자 한다.
• 예측 코딩이 영상 예측, 분류, 이상 탐지와 같은 작업을 통합하는 프레임워크로 기능할 수 있는지 평가하고자 한다.

제안 방법

• 계층적 모듈 간의 핵심 커뮤니케이션 구조로 레오-볼드라드 프로토콜을 채택하여 상향식 예측과 오차 역전파를 가능하게 한다.
• 컨볼루션 및 순환 아키텍처를 포함한 딥러닝 프레임워크를 사용하여 예측 코딩을 구현하며, 시간적 모델링을 위해 LSTMs를 활용한다.
• 예측 오차 최소화를 통한 비지도 학습을 적용하여, 예측된 입력과 실제 입력 간의 격차가 표현 정교화를 이끄는 원동력이 되도록 한다.
• 생성 모델링 원리를 적용하여 고수준 표현이 저수준 입력을 정확하게 재구성할 수 있도록 보장한다.
• 표준 전방향 딥러닝 네트워크와 대비하여 계층 간 피드백 연결을 통합하여 표현의 반복적 정교화를 가능하게 한다.
• 영상 프레임 예측 및 이상 탐지 작업을 통해 접근법을 검증하였으며, 잔차 오차가 기대하는 패턴에서의 이탈을 신호로 잘 나타낸다.

실험 결과

연구 질문

• RQ1 예측 코딩 원리가 현대 딥러닝 아키텍처에 효과적으로 통합될 수 있는가?
• RQ2 피드백 연결이 표현 학습과 모델의 강건성 향상에 어떤 역할을 하는가?
• RQ3 예측 오차 기반으로 학습된 예측 코딩 모델이 영상 예측 및 이상 탐지에서 뛰어난 성능을 달성할 수 있는가?
• RQ4 예측 코딩을 통해 학습된 표현은 표준 오토인코더나 딥 베리프 네트워크의 표현과 비교해 어떤가?
• RQ5 고수준에서의 잔차 오차가 이상 탐지에 신뢰할 수 있는 지표로 기능할 수 있는 정도는 어느 정도인가?

주요 결과

• 레오-볼드라드 프로토콜은 딥러닝 내 계층적 예측 코딩을 구현하기 위한 타당하고 해석 가능한 프레임워크를 제공한다.
• 피드백 연결은 영상 프레임 예측과 같이 시간적·공간적 일반화가 필요한 작업에서 모델 성능을 크게 향상시킨다.
• 예측 오차 최소화 과정을 통해 입력 변동의 근본 원인을 잘 포착하는 풍부하고 분리된 표현이 획득된다.
• 고수준에서의 잔차 오차는 이상을 신뢰성 있게 나타내며, 이는 예측 코딩을 이상 탐지에 활용할 수 있음을 뒷받침한다.
• 순환 단위(예: LSTMs)를 사용한 예측 코딩 모델은 순수 전방향 네트워크보다 음영 및 부분 가림에 더 강건한 성능을 보인다.
• 예측 코딩을 딥러닝에 통합함으로써 레이블이 필요한 데이터 없이도 비지도 엔드 투 엔드 학습이 가능하며, 다양한 작업에서 뛰어난 성능을 달성할 수 있다.