[논문 리뷰] Brain-inspired learning in artificial neural networks: a review

Samuel Schmidgall, Jascha Achterberg외 5명|arXiv (Cornell University)|2023. 05. 18.

Advanced Memory and Neural Computing인용 수 5

한 줄 요약

이 논문은 지속적이고 종신적 학습에서의 한계를 극복하기 위해 뇌에 영감을 받은 인공신경망(ANN)의 학습 메커니즘을 검토한다. 생물학적으로 타당한 시냅스 가소성, 신경조절물질 조절, 국소 학습 규칙을 강조한다. 이러한 신경과학 기반 원리를 통합함으로써, ANN은 더 적응력 있고 에너지 효율적이며 안정적인 학습을 달성할 수 있으며, 뇌의 동적인 종신적 학습 능력을 모방하게 된다.

ABSTRACT

Artificial neural networks (ANNs) have emerged as an essential tool in machine learning, achieving remarkable success across diverse domains, including image and speech generation, game playing, and robotics. However, there exist fundamental differences between ANNs' operating mechanisms and those of the biological brain, particularly concerning learning processes. This paper presents a comprehensive review of current brain-inspired learning representations in artificial neural networks. We investigate the integration of more biologically plausible mechanisms, such as synaptic plasticity, to enhance these networks' capabilities. Moreover, we delve into the potential advantages and challenges accompanying this approach. Ultimately, we pinpoint promising avenues for future research in this rapidly advancing field, which could bring us closer to understanding the essence of intelligence.

연구 동기 및 목표

• 생물학적으로 타당한 학습 메커니즘—예를 들어 시냅스 가소성과 신경조절물질 조절—을 식별하고 분석하여 인공신경망(ANN)에 통합함으로써 학습의 적응성을 향상시키는 것.
• 현재의 ANN가 생물학적 뇌처럼 안정적이고 지속적이며 종신적인 학습을 달성하는 데에 근본적인 한계를 해결하는 것.
• 뇌에 영감을 받은 알고리즘을 제안함으로써 신경과학과 AI를 연결함으로써 AI 시스템의 능력 향상과 뇌 기능 계산에 대한 이해를 심화시키는 것.
• 스피크 타이밍 의존적 가소성(STDP)를 모방하는 국소 학습 규칙이 백프로파게이션을 대체하거나 보완하여 더 생물학적으로 현실적인 학습을 가능하게 하는 방식을 탐구하는 것.
• 에너지 효율적이고 적응력 있는 AI 시스템을 개발하기 위한 열린 연구 과제와 향후 방향성을 규명하는 것.

제안 방법

• 생물학적 신경 회로에서 학습의 기초를 이루는 장기 강화(LTP)와 장기 억제(LTD)를 포함한 시냅스 가소성 메커니즘의 체계적 검토.
• 다양한 신경전달물질(예: 도파민, 아세틸콜린)을 통한 신경조절물질 조절을 고려하여 시냅스 강도와 신경세포의 민감도를 조절하는 방식을 분석함으로써 맥락 기반 학습을 가능하게 하는 방식 탐구.
• 스피크 타이밍 의존적 가소성(STDP)를 분석하여 전후 시냅스 자극의 시간 간격에 따라 시냅스 가중치를 수정하는 국소 헤브 방식의 학습 규칙으로서의 기능을 규명.
• 백프로파게이션과 피드백 정렬, 국소 학습 규칙과 같은 생물학적으로 타당한 대안 간의 비교를 통해 인공 네트워크에서의 실현 가능성 평가.
• 국소 학습 규칙을 딥 러닝 아키텍처에 통합하여 전역 오차 신호 없이도 책임 할당이 가능하게 함으로써 뇌 유사 학습 역학을 모방.
• 인공신경망을 뇌 기능 이론을 테스트하고 개선하기 위한 계산 모델로 사용함으로써 신경연결주의 연구 프로그램을 형성.

Figure 1: Graphical depiction of long-term potentiation (LTP) and depression (LTD) at the synapse biological neurons. A. Synaptically connected pre- and post-synaptic neurons. B. Synaptic terminal, the connection point between neurons. C. Synaptic growth (LTP) and synaptic weakening (LTD). D. Top. M

실험 결과

연구 질문

• RQ1 LTP와 LTD와 같은 시냅스 가소성 메커니즘은 어떻게 인공신경망에 효과적으로 모델링되고 구현될 수 있으며, 이를 통해 생물학적으로 타당한 학습이 가능하게 할 수 있는가?
• RQ2 신경조절물질 조절은 학습 역학에 어떤 역할을 하는가? 이를 어떻게 인공 네트워크에 모방하여 맥락 민감한 적응을 지원할 수 있는가?
• RQ3 STDP와 같은 국소 학습 규칙이 딥 네트워크 학습에서 백프로파게이션을 얼마나 대체하거나 보완할 수 있으며, 성능 유지와 생물학적 타당성은 어떻게 확보할 수 있는가?
• RQ4 어떻게 하면 인공신경망을 지속적이고 종신적 학습을 지원하도록 설계할 수 있으며, 뇌의 종신적 적응 능력과 유사하게 만들 수 있는가?
• RQ5 신경과학 통찰을 AI 개발에 통합함으로써 양방향 혜택을 얻는 방법은 무엇인가? 즉, 뇌 기반 AI 모델이 뇌 기능 이론을 테스트하고 개선하는 데 기여하고, 반대로 신경과학이 더 견고하고 일반화 가능한 AI 알고리즘 개발을 이끄는 데 어떻게 기여할 수 있는가?

주요 결과

• 특히 LTP와 LTD를 포함한 시냅스 가소성은 생물학적 시스템에서 학습과 기억의 기초 메커니즘을 제공하며, 이를 ANN에 모델링함으로써 적응력 향상을 이룰 수 있다.
• 신경조절물질 조절은 신경 회로와 시냅스 강도의 동적 조절을 가능하게 하며, 이를 통해 인공 네트워크에서 맥락 기반 학습을 실현할 수 있는 길을 열어준다.
• 스피크 타이밍 의존적 가소성(STDP)는 전후 시냅스 활동 시간 간격에 따라 가중치를 갱신하는 생물학적으로 타당한 국소 학습 규칙으로 기능한다.
• 백프로파게이션은 딥 러닝에서 매우 효과적이지만 생물학적으로 타당하지 않다. 피드백 정렬과 같은 국소 학습 규칙은 뇌에 영감을 받은 학습을 위한 유망한 대안을 제공한다.
• 뇌에 영감을 받은 학습 메커니즘을 ANN에 통합하면, 특히 지속적이고 종신적 학습 환경에서 더 에너지 효율적이고 안정적이며 적응력 있는 시스템을 얻을 수 있다.
• 신경과학과 AI 간의 상호작용은 상호 보완적이다: 뇌 기반 AI 모델은 뇌 기능 이론의 테스트와 개선을 가능하게 하며, 반대로 신경과학은 더 견고하고 일반화 가능한 AI 알고리즘 개발을 이끄는 데 기여할 수 있다.

Figure 2: There are strong parallels between artificial and brain-like learning algorithms. Left. Top. Graphical depiction of a rodent and a cluster of interconnected neurons. Middle. Rodent is participating in the Morris water maze task to test its learning capabilities. Bottom A graphical depictio