[논문 리뷰] On the role of neurogenesis in overcoming catastrophic forgetting

German I. Parisi, Xu Ji외 1명|arXiv (Cornell University)|2018. 11. 06.

Neurogenesis and neuroplasticity mechanisms참고 문헌 12인용 수 10

한 줄 요약

이 논문은 자기조직화 순환 신경망에서의 신경생성—동적 뉴런 추가—이 점진적이고 비지도 학습에서 치명적인 잊음 현상을 크게 감소시킨다는 것을 입증한다. 필요한 경우에만 뉴런을 증식시키는 방식으로, 동일한 기억 용량을 가진 정적 네트워크보다 우수한 성능을 보이며, 10개의 물체 카테고리를 학습한 후 CORe50에서 83.24%의 정확도를 기록한 반면, 정적 네트워크는 32.41%에 그쳤다.

ABSTRACT

Lifelong learning capabilities are crucial for artificial autonomous agents operating on real-world data, which is typically non-stationary and temporally correlated. In this work, we demonstrate that dynamically grown networks outperform static networks in incremental learning scenarios, even when bounded by the same amount of memory in both cases. Learning is unsupervised in our models, a condition that additionally makes training more challenging whilst increasing the realism of the study, since humans are able to learn without dense manual annotation. Our results on artificial neural networks reinforce that structural plasticity constitutes effective prevention against catastrophic forgetting in non-stationary environments, as well as empirically supporting the importance of neurogenesis in the mammalian brain.

연구 동기 및 목표

• 신경생성이 지속적 학습에서 치명적인 잊음을 완화하는 데 기능적으로 기여하는지 조사하기 위해.
• 동일한 기억 제약 조건 하에서 구조적 유연성의 영향을 분리하기 위해, 동적 성장 네트워크와 정적 네트워크를 비교하기 위해.
• 수동적인 주석 없이 실제 세계의 비정상적인 데이터에서 비지도, 점진적 학습 성능을 평가하기 위해.
• 신경생성이 새로운 지식을 더 빨리 유지하면서도 이전의 표현을 유지하는 데 기여하는지 평가하기 위해.
• 동적 아키텍처 성장이 용량 증가를 넘어서 안정성-유연성 균형에서의 이점을 제공하는지 탐색하기 위해.

제안 방법

• 입력 활성도가 임계값 이하로 떨어질 경우에만 뉴런을 동적으로 추가하는 성장하는 자기조직화 순환망(GWR)을 사용하였다.
• 동일하게 활성화된 뉴런 간의 시냅스 연결을 형성하기 위해 경쟁적 히브시안 학습을 적용하였으며, 시간적 맥락은 맥락 기술자로 모델링하였다.
• 자기조직화 네트워크의 입력으로 영상 프레임을 256차원 벡터로 감소시키기 위해 VGG 기반의 특징 추출기를 사용하였다.
• CORe50 데이터셋에서 10개 세션을 사용하여 실험하였으며, 8개 세션은 학습, 3개 세션은 테스트로 활용하였고, 카테고리당 5개의 미니배치를 사용하였다.
• 메모리 용량이 동일한 조건에서 정적 네트워크(고정 크기)와 성장 네트워크(최대 2500개 뉴런)를 비교하였다.
• 정적 및 동적 모델에 대한 영향을 테스트하기 위해 정적 데이터 분포를 시뮬레이션하기 위해 메모리 재생을 적용하였다.

실험 결과

연구 질문

• RQ1 동일한 기억 용량을 가진 정적 네트워크와 비교할 때, 동적 네트워크에서의 신경생성이 치명적인 잊음을 감소시키는가?
• RQ2 외부 감독이나 데이터 재생 없이도, 동적 뉴런 추가가 비지도, 점진적 학습에서 성능 향상에 기여하는가?
• RQ3 뉴런 증식 기능이 안정성-유연성 역설에도 불구하고 새로운 클래스를 더 빨리 유지할 수 있도록 하는가?
• RQ4 점진적 학습 하에서 정적 아키텍처와 성장 아키텍처에 대해 메모리 재생이 성능에 어떤 영향을 미치는가?
• RQ5 신경생성을 통한 구조적 탄력성은 표현 안정성과 메모리 효율성에 얼마나 기여하는가?

주요 결과

• 성장 네트워크는 10개의 물체 카테고리를 학습한 후 CORe50에서 평균 83.24%의 정확도를 기록하였으며, 동일한 기억 제약 조건 하에서 정적 네트워크의 32.41%보다 유의미하게 높았다.
• 약 50%의 성능 격차는 신경생성이 용량 증가를 넘어서 치명적인 잊음을 방지하는 데 기능적으로 기여한다는 것을 보여주며, 순수한 용량 증가 외의 기여를 입증한다.
• 동적 모델은 경쟁적인 성능에 도달하기 위해 단 16개의 학습 에포크만 필요로 하였고, 정적 모델은 33개의 에포크가 필요로 하여, 필요에 따라 뉴런을 삽입함으로써 더 빠른 수렴을 이룬다는 것을 시사한다.
• 메모리 재생은 정적 네트워크의 성능 향상에 유의미한 영향을 미치지 못하였는데, 이는 내부 표현이 잘 재구성되지 않았기 때문이다. 이는 구조적 탄력성의 중요성을 강조한다.
• 성장 네트워크는 정적 모델보다 더 빠르게 새로 학습한 클래스를 유지하였으며, 이는 안정성-유연성 역설을 위반하는 결과로, 이전 지식을 손상시키지 않으면서도 신속한 유연성을 달성했다.
• 결과는 뇌에서 신경생성이 비정상적인 환경에서 효율적이고 평생 지속 가능한 학습을 위한 메커니즘으로 생물학적으로 기능한다는 것을 경험적으로 지지한다.