[논문 리뷰] Neurogenesis Deep Learning

Timothy J. Draelos, Nadine E. Miner외 7명|arXiv (Cornell University)|2016. 12. 12.

Neurogenesis and neuroplasticity mechanisms참고 문헌 28인용 수 18

한 줄 요약

이 논문은 성체 해마 신경 발생을 영감으로 받아 지속적 학습을 가능하게 하는 새로운 방법인 뉴로지네시스 딥 러닝을 제안한다. 훈련 중에 숨겨진 층에 새로운 뉴런을 동적으로 추가함으로써 기존에 학습된 표현을 유지하면서도 새로운 데이터에 적응할 수 있으며, 치명적인 잊히는 현상이 최소화된 채로 MNIST 및 NIST SD19 데이터셋에서 안정성-유연성 균형이 향상되었다.

ABSTRACT

Neural machine learning methods, such as deep neural networks (DNN), have achieved remarkable success in a number of complex data processing tasks. These methods have arguably had their strongest impact on tasks such as image and audio processing - data processing domains in which humans have long held clear advantages over conventional algorithms. In contrast to biological neural systems, which are capable of learning continuously, deep artificial networks have a limited ability for incorporating new information in an already trained network. As a result, methods for continuous learning are potentially highly impactful in enabling the application of deep networks to dynamic data sets. Here, inspired by the process of adult neurogenesis in the hippocampus, we explore the potential for adding new neurons to deep layers of artificial neural networks in order to facilitate their acquisition of novel information while preserving previously trained data representations. Our results on the MNIST handwritten digit dataset and the NIST SD 19 dataset, which includes lower and upper case letters and digits, demonstrate that neurogenesis is well suited for addressing the stability-plasticity dilemma that has long challenged adaptive machine learning algorithms.

연구 동기 및 목표

• 새로운 데이터로 훈련할 때 기존에 학습한 정보를 잊는 경향이 있는 딥 러닝의 안정성-유연성 딜레마를 해결하기 위해.
• 인공 신경망이 생명체의 신경 발생을 모방하여 종신적 학습을 지원할 수 있는지 탐색하기 위해.
• 기존 네트워크를 다시 훈련하거나 기존 가중치를 크게 변경하지 않고도 점진적 학습을 가능하게 하는 방법을 개발하기 위해.
• 숨겨진 층에 새로운 뉴런을 추가하는 것이 이전 지식을 유지하면서 새로운 정보를 습득하는 데 효과적인지 평가하기 위해.

제안 방법

• 점진적 훈련 단계 동안 기존의 숨겨진 층에 새로운 뉴런을 도입하는 방법이다.
• 새로운 뉴런은 무작위 가중치로 초기화되며, 오직 새로운 데이터에서만 훈련되며, 원래 네트워크는 고정된 상태를 유지한다.
• 기존 뉴런과 새로운 뉴런 모두 최종 출력에 기여하는 하이브리드 아키텍처를 사용함으로써, 오래된 지식을 손상시키지 않은 채 새로운 데이터를 표현할 수 있다.
• 훈련 과정은 새로운 뉴런을 새로운 데이터에서 미세조정하는 것과 원래 네트워크의 안정성을 유지하는 것 사이를 번갈아 수행한다.
• 이 방법은 성체 해마에서의 신경 발생 생물학적 원리를 활용하며, 새로운 뉴런이 기존 회로에 통합되어 학습을 지원한다.
• 표준 딥 러닝 아키텍처를 사용하여 점진적인 데이터 스트림을 활용해 MNIST 및 NIST SD19 데이터셋에서 평가된다.

실험 결과

연구 질문

• RQ1 기계 학습된 딥 뉴럴 네트워크의 숨겨진 층에 새로운 뉴런을 추가함으로써 지속적 학습 성능을 향상시킬 수 있는가?
• RQ2 기본적인 미세조정 대비 뉴로지네시스를 영감으로 삼은 방법이 치명적인 잊히는 현상을 줄이는가?
• RQ3 뉴로지네시스 모델의 성능은 점진적 학습 과제에서 기준 DNN과 비교해 어떻게 되는가?
• RQ4 새로운 뉴런의 수를 변화시켰을 때 학습의 안정성과 정확도에 어떤 영향을 미치는가?
• RQ5 순차적으로 새로운 데이터를 학습하면서도 이전에 학습한 데이터에 대해 높은 정확도를 유지할 수 있는가?

주요 결과

• 뉴로지네시스 방법은 표준 미세조정 대비 MNIST 및 NIST SD19 데이터셋에서 치명적인 잊히는 현상을 크게 감소시켰다.
• NIST SD19 데이터셋에서, 새로운 데이터로 점진적 훈련을 마친 후 기존에 학습한 클래스에 대해 95% 이상의 정확도를 달성했다.
• 기존 데이터에 대해 높은 성능를 유지하면서도 새로운 데이터에 대해 강력한 정확도를 달성함으로써 안정성-유연성 균형이 잘 조화된 것을 보여주었다.
• 기존 표현을 유지하는 데 있어 가중치 정규화나 단순한 미세조정보다 새로운 뉴런 추가가 훨씬 효과적이었다.
• 다양한 점진적 학습 시나리오에서 일관된 성능 향상을 보이며, 데이터 스트림의 변동에 대해 강건함을 입증했다.
• 결과적으로 뉴로지네시스를 영감으로 삼은 아키텍처가 인공 신경망에서 종신적 학습을 효과적으로 지원할 수 있음을 시사한다.