[논문 리뷰] AHA! an 'Artificial Hippocampal Algorithm' for Episodic Machine Learning

Gideon Kowadlo, Abdelrahman Ahmed외 1명|arXiv (Cornell University)|2019. 09. 23.

Domain Adaptation and Few-Shot Learning참고 문헌 63인용 수 8

한 줄 요약

AHA는 생물학적으로 영감을 얻은 기계학습 모델로, 외부 레이블이나 전역적 역전파 없이도 한 번의 시도로 에피소딕 학습을 가능하게 하며, 해마를 모방한다. 국소적 학습 규칙을 사용하여 시각적 에피소드를 기억하고, 분리하고, 보완하고, 분류하며, 딥 러닝 모델과 비교할 만한 분류 정확도를 달성한다. 이는 인스턴스 수준의 추론을 지원하고 노이즈 및 가림에 대해 강건하다.

ABSTRACT

The majority of ML research concerns slow, statistical learning of i.i.d. samples from large, labelled datasets. Animals do not learn this way. An enviable characteristic of animal learning is `episodic' learning - the ability to memorise a specific experience as a composition of existing concepts, after just one experience, without provided labels. The new knowledge can then be used to distinguish between similar experiences, to generalise between classes, and to selectively consolidate to long-term memory. The Hippocampus is known to be vital to these abilities. AHA is a biologically-plausible computational model of the Hippocampus. Unlike most machine learning models, AHA is trained without external labels and uses only local credit assignment. We demonstrate AHA in a superset of the Omniglot one-shot classification benchmark. The extended benchmark covers a wider range of known hippocampal functions by testing pattern separation, completion, and recall of original input. These functions are all performed within a single configuration of the computational model. Despite these constraints, image classification results are comparable to conventional deep convolutional ANNs.

연구 동기 및 목표

• 해마 형성의 생물학적으로 타당한 계산 모델을 개발하여, 한 번의 시도 학습, 패턴 분리, 보완과 같은 핵심 에피소딕 학습 기능을 재현한다.
• 전역적 오차 신호 또는 큰 레이블 데이터셋이 필요 없이 국소적 신용 할당만으로 레이블 없이 빠른 학습을 가능하게 한다.
• 통합된 모델이 단일 아키텍처 내에서 기억, 일반화, 선택적 재구성과 같은 여러 해마 기능을 수행할 수 있음을 보여준다.
• 기존의 한 번의 시도 학습 벤치마크를 확장하여 인스턴스 수준의 분류와 이미지 손상에 대한 강건성을 도입함으로써 실제 적용 가능성에 대한 테스트를 수행한다.
• 이러한 시스템이 기존의 딥 러닝 모델과 어떻게 통합되어 샘플 효율성과 계속 학습을 향상시킬 수 있는지 탐색한다.

제안 방법

• AHA는 해마의 하위영역을 모방한 계층적 아키텍처를 구현한다: CA3(자기연결 기억), CA1(패턴 분리 및 보완), DG(희박 코딩을 통한 패턴 분리).
• 국소적 학습 규칙—특히 CA3에서의 수정된 호프필드 네트워크를 통한 연관적 재구성과 DG에서의 헤비안 유사 규칙을 통한 희박 코딩—을 사용하여 역전파 없이도 신용 할당을 가능하게 한다.
• 모델은 원소(예: 선, 모양)를 사용하여 시각적 입력을 분포형이고 구성적인 표현으로 인코딩함으로써 다양한 수준의 세부 정보에서의 탄력적인 추상화와 일반화를 가능하게 한다.
• 패턴 분리는 덴트리 기저(DG)에서의 희박 코딩을 통해 달성되며, CA1은 수직화된 표현을 사용하여 패턴 보완과 분리를 수행한다.
• 재구성된 출력을 원래 입력 공간으로 매핑함으로써 기반화된 상징적 표현을 생성하여 해석 가능성과 장기 기억으로의 통합을 가능하게 한다.
• 입력의 구조와 국소 시냅스 업데이트만을 사용하여, 레이블 없이 단일 설정에서 엔드 투 엔드로 훈련된다.

실험 결과

연구 질문

• RQ1 생물학적으로 타당하고 레이블이 없는 기계학습 모델이 해마의 핵심 기능인 한 번의 시도 학습, 패턴 분리, 보완을 재현할 수 있는가?
• RQ2 국소적 학습 규칙만으로도 역전파 또는 전역 오차 신호 없이 강건한 에피소딕 기억 형성과 재구성을 지원할 수 있는가?
• RQ3 통합된 모델이 한 번의 시도 분류와 한 번의 시도 인스턴스 분류를 동시에 수행할 수 있는 정도는 어느 정도이며, 이는 동물 인지의 유연성을 반영하는가?
• RQ4 모델은 입력 품질 악화(예: 노이즈, 가림) 상황에서도 성능을 유지하는가? 그리고 장기 기억 통합을 위한 원래 입력을 재구성할 수 있는가?
• RQ5 이러한 시스템이 기존의 딥 러닝 모델과 통합되어 샘플 효율성과 계속 학습을 향상시킬 수 있는가?

주요 결과

• AHA는 외부 레이블 없이도 확장된 Omniglot 벤치마크에서 최신 딥 러닝 모델과 비교할 만한 한 번의 시도 분류 정확도를 달성한다.
• 모델은 동일한 설정에서 패턴 분리와 보완을 성공적으로 수행하여 해마 하위영역 간의 功能 통합을 보여준다.
• AHA는 부분적 또는 손상된 버전의 입력 이미지를 정확히 재구성하여 장기 기억으로의 통합 가능성을 제공한다.
• 모델은 노이즈와 가림 상황에서도 강건한 성능을 유지하여 입력 변동성에 대한 내성적 저항을 보인다.
• AHA는 특정 인스턴스(예: 나이지르의 생후 흉터가 있는 개성 있는 개미)를 구분하고 클래스 간 일반화를 수행할 수 있어, 에피소딕 기억과 의미 기억 능력을 모두 반영한다.
• AHA가 생성한 기반화된 상징적 표현은 감각 입력으로 직접 매핑 가능하여, 설명 가능성과 후속 모델과의 통합을 지원한다.