[논문 리뷰] Lifelong Neural Predictive Coding: Sparsity Yields Less Forgetting when Learning Cumulatively.

Alexander G. Ororbia, Ankur Mali외 2명|arXiv (Cornell University)|2019. 05. 25.

Explainable Artificial Intelligence (XAI)인용 수 7

한 줄 요약

이 논문은 예측 코딩 이론에 기반한 신경망 기반의 순차적 신경 코드화 네트워크를 제안한다. 이 모델은 희박한 경쟁적 활성화와 반복적 처리를 통해 수명 주기 학습에서 치명적인 잊음( catastrophic forgetting )을 크게 감소시킨다. 이는 표준 신경망과 이전의 지속적 학습 방법보다 순차적 작업 스트림에서 뛰어난 성능을 보이며, 이전 지식을 유지하면서 새로운 작업을 학습한다.

ABSTRACT

In lifelong learning systems, especially those based on artificial neural networks, one of the biggest obstacles is the severe inability to retain old knowledge as new information is encountered. This phenomenon is known as catastrophic forgetting. In this paper, we present a new connectionist model, the Sequential Neural Coding Network, and its learning procedure, grounded in the neurocognitive theory of predictive coding. The architecture experiences significantly less forgetting as compared to standard neural models and outperforms a variety of previously proposed remedies and methods when trained across multiple task datasets in a stream-like fashion. The promising performance demonstrated in our experiments offers motivation that directly incorporating mechanisms prominent in real neuronal systems, such as competition, sparse activation patterns, and iterative input processing, can create viable pathways for tackling the challenge of lifelong machine learning.

연구 동기 및 목표

• 생물학적으로 타당한 메커니즘을 사용하여 지속적 기계 학습에서 치명적인 잊음을 해결하기 위해.
• 실제 신경 세포 시스템의 지식 쇠퇴에 대한 저항성을 모방하는 연결주의 모델을 개발하기 위해.
• 희박성과 반복적 처리를 통합하여 순차적 작업 간의 지속적 학습 성능을 향상시키기 위해.
• 예측 코딩 원리가 표준 역전파보다 더 안정적인 수명 주기 학습을 가능하게 하는지 테스트하기 위해.
• 희박한 활성화 패턴이 누적 학습 환경에서 잊음 감소에 기여하는지 보여주기 위해.

제안 방법

• 모델는 뇌의 예측 코딩을 시뮬레이션하도록 설계된 순차적 신경 코드화 네트워크로 구성된다.
• 숨은 유닛 간의 경쟁적 동역학을 활용하여 희박한 활성화 패턴을 강제한다.
• 학습 절차는 예측 코딩의 계층적 오차 최소화 원리와 일치하는 반복적 오차 전파를 사용한다.
• 네트워크는 입력을 다중 피드백 루프를 통해 처리하여 예측을 정교화하고 예측 오차를 최소화한다.
• 희박성은 수평적 억제를 통해 강제되며, 관련 뉴런의 선택적 활성화를 촉진한다.
• 아키텍처는 작업별 재학습 없이 순차적 작업 데이터셋에 대해 스트림 방식으로 훈련된다.

실험 결과

연구 질문

• RQ1 예측 코딩 기반의 신경망은 수명 주기 학습에서 치명적인 잊음을 줄일 수 있는가?
• RQ2 활성화 패턴의 희박성이 순차적 작업 간 지식 유지에 어떤 영향을 미치는가?
• RQ3 계층적 아키텍처에서 반복적 오차 보정이 지속적 학습 성능을 향상시키는가?
• RQ4 이 모델은 표준 역전파 및 이전의 지속적 학습 방법과 비교해 어떻게 성능을 내는가?
• RQ5 경쟁과 피드백 처리와 같은 생물학적으로 영감을 받은 메커니즘이 수명 주기 학습의 안정성을 향상시키는가?

주요 결과

• 순차적 신경 코드화 네트워크는 표준 신경망에 비해 치명적인 잊음을 크게 감소시킨다.
• 모델은 순차적 작업 스트림에서 이전에 제안된 다양한 지속적 학습 방법보다 뛰어난 성능을 보인다.
• 희박한 활성화 패턴이 이전 작업의 지식 유지에 핵심적인 역할을 한다.
• 반복적 처리와 경쟁적 동역학은 안정적이고 장기적인 학습에 기여한다.
• 모델은 누적적, 스트림 방식으로 훈련된 다수의 데이터셋에서 뛰어난 성능을 보였다.
• 예측 코딩 원리의 통합은 더 생물학적으로 타당하고 효과적인 수명 주기 학습을 이끌어낸다.