[논문 리뷰] The Neural Coding Framework for Learning Generative Models

Alexander G. Ororbia, Daniel Kifer|arXiv (Cornell University)|2020. 12. 07.

Neural Networks and Applications인용 수 4

한 줄 요약

이 논문은 딥 생성 모델을 훈련하기 위한 백프로파게이션의 생물학적으로 유사한 대안으로 신경 생성 코딩(NGC) 프레임워크를 제안한다. 뇌의 예측 처리를 모방하여 뉴런을 계층적 예측을 수행하고 국소적 오차 신호를 통해 가중치를 갱신함으로써, 백프로파게이션 없이도 경쟁적인 성능을 달성한다. 이는 이미지 생성, 표현 학습, 패턴 복원 작업에서 뛰어난 성과를 보여준다.

ABSTRACT

Neural generative models can be used to learn complex probability distributions from data, to sample from them, and to produce probability density estimates. We propose a computational framework for developing neural generative models inspired by the theory of predictive processing in the brain. According to predictive processing theory, the neurons in the brain form a hierarchy in which neurons in one level form expectations about sensory inputs from another level. These neurons update their local models based on differences between their expectations and the observed signals. In a similar way, artificial neurons in our generative models predict what neighboring neurons will do, and adjust their parameters based on how well the predictions matched reality. In this work, we show that the neural generative models learned within our framework perform well in practice across several benchmark datasets and metrics and either remain competitive with or significantly outperform other generative models with similar functionality (such as the variational auto-encoder).

연구 동기 및 목표

• 백프로파게이션에 의존하지 않고 생물학적으로 타당한 학습 프레임워크를 개발하여 생성 모델을 훈련시키는 것.
• 딥 네트워크에서 백프로파게이션의 한계, 즉 비국소적 신뢰도 할당과 횡방향 연결의 부재를 해결하는 것.
• 신경과학 기반 원칙과 실용적 기계 학습 간 격차를 좁히기 위해 계층적이고 국소적인 방식으로 신경 예측과 오차 보정을 모델링하는 것.
• 예측 처리 기반 프레임워크가 생성 모델링 작업에서 경쟁적인 성능을 달성할 수 있음을 보여주는 것.
• 국소적, 계층적, 예측 기반 학습 메커니즘이 하류 작업에 적합한 일반 목적의 표현을 생성할 수 있는지 탐색하는 것.

제안 방법

• 각 층이 하위 층의 활성도를 생성적 시냅스 가중치를 사용하여 예측하는 계층적 신경망 아키텍처를 제안한다.
• 예측 오차에 기반한 국소적 오차 기반 시냅스 갱신을 적용하며, 예측 처리와 자유 에너지 최소화에 영감을 받는다.
• 변분 추론 프레임워크를 사용하여 변분 자유 에너지를 최소화함으로써 백프로파게이션 없이도 엔드 투 엔드 훈련을 가능하게 한다.
• 예측 오차를 후행적으로 전파하고 이를 국소적으로 시냅스 가중치 갱신에 사용하는 메시지 전달 메커니즘을 도입한다.
• 헤브시안 유사 학습 규칙을 적용하여 시냅스 가소성을 보장함으로써 국소적이고 생물학적으로 타당한 가중치 갱신을 실현한다.
• 두 단계 훈련 과정을 적용한다: 첫 번째로 인식 네트워크가 잠재 상태를 추론하고, 두 번째로 생성 모델이 학습된 가중치와 예측 메커니즘을 사용하여 데이터를 합성한다.

실험 결과

연구 질문

• RQ1 예측 처리에 기반한 생물학적으로 유사한 학습 프레임워크가 백프로파게이션 없이도 깊이 있는 생성 모델을 효과적으로 훈련시킬 수 있는가?
• RQ2 국소적, 계층적 예측 및 오차 기반 학습이 백프로파게이션과 비교해 생성 성능와 표현 품질 측면에서 어떻게 다른가?
• RQ3 제안된 프레임워크가 분류 및 패턴 복원과 같은 하류 작업을 지원할 수 있는 분리 가능하고 의미 있는 표현을 학습할 수 있는가?
• RQ4 NGC 프레임워크가 [68]과 [22]의 기존 모델을 어느 정도 회복하거나 일반화할 수 있는가?
• RQ5 이 프레임워크는 뇌에서의 신뢰도 할당 이해에 어떤 함의를 가지며, 더 생물학적으로 타당한 인공 에이전트 설계에 기여할 수 있는가?

주요 결과

• NGC 프레임워크는 MNIST, CIFAR-10, CelebA와 같은 벤치마크 데이터셋에서 이미지 생성 및 밀도 추정 작업에서 경쟁적인 성능을 달성한다.
• NGC 모델은 하류 분류 및 패턴 복원 작업에서 뛰어난 성능을 보이며, 일반 목적의 분리 가능한 표현을 학습하고 있음을 시사한다.
• 학습된 시냅스 가중치의 시각화 결과, 고차원 레이어가 출력에서 저차원 시각적 특징의 조합를 제어하는 동적이고 맥락 민감한 지도를 형성하는 것으로 나타났다.
• 프레임워크는 [68]과 [22]의 기존 모델을 성공적으로 회복하고 일반화하여 기존 변분 추론 프레임워크와 이론적으로 일관성을 보였다.
• NGC 모델은 횡방향 경쟁과 희박한 활성 패턴을 보이며, 구조적이고 생물학적으로 타당한 표현의 탄생을 시사한다.
• 백프로파게이션 없이도 엔드 투 엔드 훈련을 지원하며, 국소적, 계층적, 예측 기반 학습 메커니즘이 효과적인 생성 모델을 도출할 수 있음을 입증했다.